ساتحدث اليوم عن مفهوم #تسميم_البيانات #DataPoisoning والتقنيات الجديدة المتعلقه بها لحماية الخصوصية.
حيث تعمل هذه التقنيات في اتجاهها الايجابي على "التمويه" او التشويش على اجهزة #الذكاء_الاصطناعي التي تجوب الانترنت يوميا لتمسح وتخزن وتعالج ما ينشر بها.
1️⃣
حيث تعمل هذه التقنيات في اتجاهها الايجابي على "التمويه" او التشويش على اجهزة #الذكاء_الاصطناعي التي تجوب الانترنت يوميا لتمسح وتخزن وتعالج ما ينشر بها.
1️⃣
يهدف #تسميم_البيانات الى التأثير على أداء و جودة نماذج #التعلم_الآلي و برمجيات #الذكاء_الاصطناعي المختلفة ويؤدي الى تعطيلها او إعطاء نتائج أو تنبؤات خاطئة.
مثلا: تغيير ملامح الصور بطريقة خفية حتى لا تلتقطها وتخزنها وتعالجها تطبيقات الذكاء الاصطناعي للتعرف على الوجوه.
2️⃣
مثلا: تغيير ملامح الصور بطريقة خفية حتى لا تلتقطها وتخزنها وتعالجها تطبيقات الذكاء الاصطناعي للتعرف على الوجوه.
2️⃣
قد لايبدو غير ضار عندما يتعرف فيسبوك على صورة صديقك تم تحميلها.
لكنه يصبح خطرا في مثل #Clearview وهي شركة خاصة تخطت الحدود الاخلاقية تستخدم #الذكاء_الاصطناعي للتعرف على الوجوه ونسخت مليارات الصور من الانترنت "دون موافقة" وعالجتها وباعتها على الاجهزه الامنية وربما (غيرها).
4️⃣
لكنه يصبح خطرا في مثل #Clearview وهي شركة خاصة تخطت الحدود الاخلاقية تستخدم #الذكاء_الاصطناعي للتعرف على الوجوه ونسخت مليارات الصور من الانترنت "دون موافقة" وعالجتها وباعتها على الاجهزه الامنية وربما (غيرها).
4️⃣
وقد ذكرت الصحف الامريكية أن شركة #Clearview على صلة باليميني المتطرف والمحرض المحافظ سيئ السمعة (تشارلز جونسون) الذي كان يدير عددًا من المواقع الإخبارية الاستقصائية قصيرة العمر التي بدت مصممة للتصيد.
وقد تم حظره من تويتر في 2015 واختفى عن الأعين.
5️⃣
nytimes.com
وقد تم حظره من تويتر في 2015 واختفى عن الأعين.
5️⃣
nytimes.com
وقد اثارت شركة #Clearview #كليرفيو غضباً عاماً مما أدى إلى رفع عدد من القضايا على الشركة في الولايات المتحدة.
كما قام عدد من الباحثين بمقاومة هذا الانتهاك الخطير بواسطة مفهوم #تسميم_البيانات وطوروا طرقًا للتأكد من أن #الذكاء_الاصطناعي لا يمكنه التعلم من البيانات الشخصية.
6️⃣
كما قام عدد من الباحثين بمقاومة هذا الانتهاك الخطير بواسطة مفهوم #تسميم_البيانات وطوروا طرقًا للتأكد من أن #الذكاء_الاصطناعي لا يمكنه التعلم من البيانات الشخصية.
6️⃣
وفي مؤتمر #الذكاء_الاصطناعي #ICLR الاخير في #النمسا، تم تقديم العديد من هذه التقنيات مثل: #Fawkes
تقول إميلي وينجر من جامعة شيكاغو التي شاركت في تطويره:
إن تسمم البيانات ليس بالأمر الجديد لكنه يتطلب عملا جماعيا بمشاركة آلاف الأشخاص لإحداث تأثير.
7️⃣
openreview.net
تقول إميلي وينجر من جامعة شيكاغو التي شاركت في تطويره:
إن تسمم البيانات ليس بالأمر الجديد لكنه يتطلب عملا جماعيا بمشاركة آلاف الأشخاص لإحداث تأثير.
7️⃣
openreview.net
إن #Fawkes يقوم بإجراء تغييرات طفيفة على الصورة لايمكن رؤيتها بالعين البشرية ولكنها تمنع تتبع الذكاء الاصطناعي. حيث تؤدي التعديلات إلى التشويش على استشعار نماذج #التعلم_الالي.
تقول سارا أرفاني من جامعة ملبورن في #أستراليا: إنه خط دفاع جديد لحماية الحقوق الرقمية للأشخاص.
8️⃣
تقول سارا أرفاني من جامعة ملبورن في #أستراليا: إنه خط دفاع جديد لحماية الحقوق الرقمية للأشخاص.
8️⃣
وتضيف وينجر: قد تساعد اللوائح التنظيمية على المدى الطويل لكن ذلك لن يمنع الشركات من استغلال الثغرات. وسيكون هناك دائمًا انفصال بين ما هو مقبول قانونيًا وما يريده الناس بالفعل لكن أدوات مثل #Fawkes تملأ هذه الفجوة.
9️⃣
technologyreview.com
9️⃣
technologyreview.com
وتضيف د. إميلي وينجر : يمكنك الحصول على هذه الحلول #التكنولوجية، لكنها لعبة القط والفأر. ويمكن أن يكون لديك قانون ، ولكن سيكون هناك دائمًا من يخالف القانون.
🔟
nytimes.com
🔟
nytimes.com
وهناك العديد من المقالات المرجعية عن هذه #التطبيقات التي تعترض تطبيقات #الذكاء_الاصطناعي وتشوش عليها مثل #Fawkes
1️⃣1️⃣
fstoppers.com
1️⃣1️⃣
fstoppers.com
جاري تحميل الاقتراحات...