هل سمعت عن على النفس الآلي؟
علم النفس الآلي Machine Psychology
هو مجال بحثي ناشئ يهدف إلى دراسة سلوكيات وقدرات النماذج اللغوية الكبيرة (LLMs) من خلال تطبيق الأساليب والمفاهيم المستوحاة من (علم النفس البشري). بدلاً من التركيز على فهم كيفية عمل هذه النماذج من الداخل (مثل دراسة الأوزان وأنماط التنشيط داخل الشبكات العصبية)، يركز علم النفس الآلي على (تحليل العلاقة بين المدخلات والمخرجات لهذه النماذج لفهم الأنماط السلوكية والقدرات التي تظهرها.)
باختصار، هو محاولة لفهم وتفسير سلوكيات LLM من خلال التعامل معها كأنها "مشاركين" في تجارب علم النفس، وذلك لفهم الذكاء الاصطناعي من منظور سلوكي.
علم النفس الآلي Machine Psychology
هو مجال بحثي ناشئ يهدف إلى دراسة سلوكيات وقدرات النماذج اللغوية الكبيرة (LLMs) من خلال تطبيق الأساليب والمفاهيم المستوحاة من (علم النفس البشري). بدلاً من التركيز على فهم كيفية عمل هذه النماذج من الداخل (مثل دراسة الأوزان وأنماط التنشيط داخل الشبكات العصبية)، يركز علم النفس الآلي على (تحليل العلاقة بين المدخلات والمخرجات لهذه النماذج لفهم الأنماط السلوكية والقدرات التي تظهرها.)
باختصار، هو محاولة لفهم وتفسير سلوكيات LLM من خلال التعامل معها كأنها "مشاركين" في تجارب علم النفس، وذلك لفهم الذكاء الاصطناعي من منظور سلوكي.
ما الذي يقوم به الباحثين لتطبيق على النفس الآلي على LLM ؟
لنفترض أنهم يريدون اختبار التحيز التأكيدي (Confirmation Bias) لـ GPT-4.
التجربة:
يقوم الباحثون بطرح سؤال بسيط ثم يعطوه معلومتين مختلفتين، واحدة تؤكد الاعتقاد الشائع والأخرى تعارضه.
التجربة:
يقولوا للنموذج:
"هل الكلاب هي أفضل الحيوانات الأليفة؟" ثم يقدموا له معلومات مثل:
1."العديد من الناس يحبون الكلاب ويعتقدون أنها أفضل الحيوانات الأليفة لأنها وفية ومحبوبة."
2."البعض يفضل القطط لأنها أكثر استقلالية وأقل حاجة للرعاية."
ثم يسألوه مرة أخرى: "هل تعتقد أن الكلاب هي أفضل الحيوانات الأليفة؟"
الهدف:
يريدوا أن يروا ما إذا كان النموذج سيتأثر بالمعلومة الأولى (التي تدعم فكرة أن الكلاب هي الأفضل) أكثر من المعلومة الثانية.
النتيجة المتوقعة:
إذا أظهر النموذج تحيزًا تأكيديًا، فقد يميل إلى الإجابة بأن "الكلاب هي أفضل الحيوانات الأليفة" معتمدًا بشكل أكبر على المعلومة الأولى التي تؤكد الاعتقاد الشائع.
التحليل:
•إذا أشار النموذج إلى أن الكلاب هي الأفضل متأثرًا بالمعلومة المؤكدة، فهذا يدل على أنه قد يتأثر بالتحيز التأكيدي.
•إذا أخذ النموذج في الحسبان المعلومتين بشكل متساوٍ، فقد يظهر ذلك أنه أقل عرضة للتحيز التأكيدي.
لنفترض أنهم يريدون اختبار التحيز التأكيدي (Confirmation Bias) لـ GPT-4.
التجربة:
يقوم الباحثون بطرح سؤال بسيط ثم يعطوه معلومتين مختلفتين، واحدة تؤكد الاعتقاد الشائع والأخرى تعارضه.
التجربة:
يقولوا للنموذج:
"هل الكلاب هي أفضل الحيوانات الأليفة؟" ثم يقدموا له معلومات مثل:
1."العديد من الناس يحبون الكلاب ويعتقدون أنها أفضل الحيوانات الأليفة لأنها وفية ومحبوبة."
2."البعض يفضل القطط لأنها أكثر استقلالية وأقل حاجة للرعاية."
ثم يسألوه مرة أخرى: "هل تعتقد أن الكلاب هي أفضل الحيوانات الأليفة؟"
الهدف:
يريدوا أن يروا ما إذا كان النموذج سيتأثر بالمعلومة الأولى (التي تدعم فكرة أن الكلاب هي الأفضل) أكثر من المعلومة الثانية.
النتيجة المتوقعة:
إذا أظهر النموذج تحيزًا تأكيديًا، فقد يميل إلى الإجابة بأن "الكلاب هي أفضل الحيوانات الأليفة" معتمدًا بشكل أكبر على المعلومة الأولى التي تؤكد الاعتقاد الشائع.
التحليل:
•إذا أشار النموذج إلى أن الكلاب هي الأفضل متأثرًا بالمعلومة المؤكدة، فهذا يدل على أنه قد يتأثر بالتحيز التأكيدي.
•إذا أخذ النموذج في الحسبان المعلومتين بشكل متساوٍ، فقد يظهر ذلك أنه أقل عرضة للتحيز التأكيدي.
مثال أخر
لنفترض أننا نريد دراسة "نظرية العقل" (Theory of Mind) باستخدام نموذج لغوي كبير مثل GPT-4.
(نظرية العقل هي القدرة على فهم أن الآخرين لديهم أفكار ومشاعر ومعتقدات تختلف عن أفكارك ومشاعرك.)
التجربة:
نعطي النموذج قصة قصيرة تقول: "خود بنت ذكية وضعت لعبة في صندوق. ثم غادرت الغرفة. أثناء غيابها، جاء أخوها ونقل اللعبة إلى درج. عندما عادت خود، أين ستبحث عن اللعبة؟"
الهدف:
نريد أن نرى ما إذا كان النموذج يمكنه أن يفهم أن خود، التي لم تشهد نقل اللعبة، ستبحث عنها في المكان الذي تركتها فيه، وهو الصندوق، وليس في الدرج حيث توجد اللعبة الآن.
النتيجة المتوقعة:
إذا كان النموذج يفهم مفهوم نظرية العقل، فسيجيب بأن خود ستبحث عن اللعبة في الصندوق. إذا لم يكن النموذج يمتلك هذا الفهم، فقد يجيب بشكل خاطئ بأنها ستبحث عنها في الدرج، مما يشير إلى أنه لا يفرق بين معرفته هو ومعرفة خود.
التحليل:
•إذا أعطى النموذج الإجابة الصحيحة، فهذا يشير إلى أنه يمكنه محاكاة بعض جوانب التفكير البشري.
•إذا أعطى إجابة خاطئة، فقد يظهر ذلك أن النموذج يفتقر إلى الفهم العميق الذي يتجاوز المعلومات السطحية.
لنفترض أننا نريد دراسة "نظرية العقل" (Theory of Mind) باستخدام نموذج لغوي كبير مثل GPT-4.
(نظرية العقل هي القدرة على فهم أن الآخرين لديهم أفكار ومشاعر ومعتقدات تختلف عن أفكارك ومشاعرك.)
التجربة:
نعطي النموذج قصة قصيرة تقول: "خود بنت ذكية وضعت لعبة في صندوق. ثم غادرت الغرفة. أثناء غيابها، جاء أخوها ونقل اللعبة إلى درج. عندما عادت خود، أين ستبحث عن اللعبة؟"
الهدف:
نريد أن نرى ما إذا كان النموذج يمكنه أن يفهم أن خود، التي لم تشهد نقل اللعبة، ستبحث عنها في المكان الذي تركتها فيه، وهو الصندوق، وليس في الدرج حيث توجد اللعبة الآن.
النتيجة المتوقعة:
إذا كان النموذج يفهم مفهوم نظرية العقل، فسيجيب بأن خود ستبحث عن اللعبة في الصندوق. إذا لم يكن النموذج يمتلك هذا الفهم، فقد يجيب بشكل خاطئ بأنها ستبحث عنها في الدرج، مما يشير إلى أنه لا يفرق بين معرفته هو ومعرفة خود.
التحليل:
•إذا أعطى النموذج الإجابة الصحيحة، فهذا يشير إلى أنه يمكنه محاكاة بعض جوانب التفكير البشري.
•إذا أعطى إجابة خاطئة، فقد يظهر ذلك أن النموذج يفتقر إلى الفهم العميق الذي يتجاوز المعلومات السطحية.
مثال أخر
لنفترض أن الباحثين يريدون دراسة كيفية استجابة GPT-4 لمواقف تتضمن "التحيز المعرفي" وهو مفهوم شائع في علم النفس البشري يشير إلى أن الناس غالبًا ما يستخدمون اختصارات عقلية (أو تحيزات) عند اتخاذ القرارات.
التجربة
يقدم الباحثون معلومات متناقضة لـ GPT-4 مثل "كل الطيور تطير" ثم "البطريق طائر ولكنه لا يطير." بعد ذلك، يُطلب من النموذج الإجابة عن سؤال مثل “هل كل الطيور تطير؟".
الهدف
معرفة ما إذا كان GPT-4 سيتأثر بالتحيز الأولي (كل الطيور تطير) أم أنه سيتكيف ويقدم استجابة دقيقة استنادًا إلى المعلومات الجديدة التي قدمت له (البطريق طائر ولكنه لا يطير).
النتيجة المتوقعة
إذا كان النموذج يظهر سلوكًا مشابهًا للتحيز البشري، فقد يواجه صعوبة في تجاهل المعلومة الأولية (التحيز) حتى بعد أن يُعرض عليه استثناء واضح. أو قد يعكس ببساطة التحيزات التي تعلمها من البيانات التي تم تدريبه عليها.
التحليل:
•إذا كان GPT-4 يعاني من نفس التحيزات التي يعاني منها البشر، يمكن للباحثين استخدام هذا لاستخلاص أوجه التشابه بين العمليات العقلية البشرية والعمليات الداخلية للنموذج.
•على العكس، إذا كان النموذج قادرًا على التغلب على هذه التحيزات بسهولة أكبر من البشر، فقد يُظهر ذلك بعض الحدود المهمة لفهم التحيزات من خلال علم النفس الآلي.
لنفترض أن الباحثين يريدون دراسة كيفية استجابة GPT-4 لمواقف تتضمن "التحيز المعرفي" وهو مفهوم شائع في علم النفس البشري يشير إلى أن الناس غالبًا ما يستخدمون اختصارات عقلية (أو تحيزات) عند اتخاذ القرارات.
التجربة
يقدم الباحثون معلومات متناقضة لـ GPT-4 مثل "كل الطيور تطير" ثم "البطريق طائر ولكنه لا يطير." بعد ذلك، يُطلب من النموذج الإجابة عن سؤال مثل “هل كل الطيور تطير؟".
الهدف
معرفة ما إذا كان GPT-4 سيتأثر بالتحيز الأولي (كل الطيور تطير) أم أنه سيتكيف ويقدم استجابة دقيقة استنادًا إلى المعلومات الجديدة التي قدمت له (البطريق طائر ولكنه لا يطير).
النتيجة المتوقعة
إذا كان النموذج يظهر سلوكًا مشابهًا للتحيز البشري، فقد يواجه صعوبة في تجاهل المعلومة الأولية (التحيز) حتى بعد أن يُعرض عليه استثناء واضح. أو قد يعكس ببساطة التحيزات التي تعلمها من البيانات التي تم تدريبه عليها.
التحليل:
•إذا كان GPT-4 يعاني من نفس التحيزات التي يعاني منها البشر، يمكن للباحثين استخدام هذا لاستخلاص أوجه التشابه بين العمليات العقلية البشرية والعمليات الداخلية للنموذج.
•على العكس، إذا كان النموذج قادرًا على التغلب على هذه التحيزات بسهولة أكبر من البشر، فقد يُظهر ذلك بعض الحدود المهمة لفهم التحيزات من خلال علم النفس الآلي.
على كل حال
- النماذج اللغوية لها قدرة على تقليد بعض السمات البشرية في معالجة اللغة، مثل التحيزات الإدراكية والاستراتيجيات المعرفية.
- النماذج له قدرة محدودة على التعرف على المعاني الضمنية أو فهم السياقات المركبة بشكل كامل.
- LLM تظهر سلوكيات معقدة يمكن دراستها بشكل مفصل باستخدام أدوات علم النفس التجريبي، مما يفتح الباب أمام فهم أعمق لآليات عمل هذه النماذج وقدراتها وحدودها.
- النماذج اللغوية لها قدرة على تقليد بعض السمات البشرية في معالجة اللغة، مثل التحيزات الإدراكية والاستراتيجيات المعرفية.
- النماذج له قدرة محدودة على التعرف على المعاني الضمنية أو فهم السياقات المركبة بشكل كامل.
- LLM تظهر سلوكيات معقدة يمكن دراستها بشكل مفصل باستخدام أدوات علم النفس التجريبي، مما يفتح الباب أمام فهم أعمق لآليات عمل هذه النماذج وقدراتها وحدودها.
جاري تحميل الاقتراحات...