في أحد البحوث اللي كان هدفها اكتشاف مرض "اعتلال الشبكية كان بيتم استخدام الـ AI في تشخيص المرض بصور العين. نفس العين بنفس الصورة لو متشخصة انها سليمة وتم عليها اختراق باضافة صورة مشوشة عليها لا يمكن أنها تغير معالم الصورة الأصلية، الذكاء الاصطناعي هيأكد المرض بنسبة 100%
خداع الـ AI بيتم من خلال الهجوم على أنظمة الذكاء الاصطناعي Adversarial Attack من خلال مثلا تغيير في مدخلات البيانات للنظام الذكي يؤدي إلى توصله لنتائج خاطئة قد تؤدي إلى كارثة. هنا مثلا عربية ذاتية القيادة لو تم اختراقها ممكن بدلا من انها تقف عند اشارة، تتحرك بسرعة 100كم/ساعة
خلونا نتفق أن الذكاء الاصطناعي عامل زي الطفل الصغير على ما انت هتدربه هيفهم لو مش متدرب كويس، الحدود الفاصلة مش هتكون جيدة (المساحات الرمادية هتكون كبيرة) الاصطناعي هو ببساطة التشويش عليه بمدخلات مضللة أو بتعطيل عمل قدرته على الاستنتاج الصحيح
طيب ازاي ممكن نحسن من اداء الذكاء الاصطناعي اللي هو عامل زي الطفل الصغير؟ نجيب طفل تاني جنبه بذكاء تاني يقعدوا يدربوا بعض وكل ما خدنا وقت واستطعنا ندخل بيانات اكتر عشان ندربه كل ما كان الذكاء أكثر دقة. بس فيه معضلة عويصة في الخداع وهي "جودة البيانات" هنبص عليها.
جودة البيانات في الذكاء الاصطناعي هي أساس أي قدرة على تعليمه. لو جودة البيانات دي مش معبرة، الذكاء هيطلع ناقص. طب مين اللي بيحدد جودة البيانات وبيديها "سياق context " انساني؟ هو الإنسان اللي عمله. وطالما دخلنا في الاطار الانساني، يبقا في احتمال تطبيق المغالطات المنطقية الانسانية
وأخيرا لو عايز أخدع نظام ذكي ممكن أقلل من البيانات اللي بدخلهاله، أو ادخل بيانات غلط (زي اكاونت زهرة البستان اللي بنتريق عليه في فيسبوك كده😁) أو بالمراقبة استطيع اتوصل لمدخل معين يؤثر على التوصل للنتيجة (الـ Bots مثلا). طبعا الموضوع أكبر من كده حبيت اديلكم لمحة بسيطة
في الفترة القادمة عمليات استخدام الذكاء الاصطناعي للخداع وخداع النظم الذكي هتزيد، من النماذج استخدام اكاونتات الكترونية على السوشيال ميديا بتغذي الـAI بمعلومات خاطئة فيما يعرف بحروب الـ Disinformation فتخيلوا لما تتغول تكنولوجيا زي انترنت الأشياءIoTفي حياتنا الوضع هيبقى عامل ازاي
جاري تحميل الاقتراحات...