الذكاء الاصطناعي وتعلم الآلة
يرى الإنسان أن كلود يعبر عن قيم مختلفة عبر اللغات
وإدراكًا منهم أن نماذج الذكاء الاصطناعي تظهر قيمًا مختلفة في لغات مختلفة، اتخذ الباحثون الأنثروبولوجيون خطوات لرسم كيفية تعبير كلود عن نفسه بلغات مختلفة.
تحدد النتائج أربعة محاور رئيسية تستحوذ على 15 بالمائة من التباين في القيم التي تقول أنثروبيك إن كلود يعبر عنها عبر لغات مختلفة: الاحترام مقابل الحذر؛ الدفء مقابل الصرامة. العمق مقابل الإيجاز؛ والصراحة مقابل التنفيذ.
يقول باحثو الأنثروبيك، “إن الطريقة التي يستجيب بها كلود تعكس حتماً قيمًا معينة.” لكنهم أضافوا حاشية توضح أن تنبؤات الكلمات الإحصائية للنموذج لا تعكس بعض الفهم الداخلي للقيم.
“إننا نعرّف القيم على أنها اعتبارات معيارية، مثل الصدق أو الحذر، والتي تم ذكرها أو توضيحها في ردود كلود،” تشرح الحاشية السفلية. “عندما نشير إلى القيم التي عبر عنها كلود، فإننا نشير إلى القيم التي يعكسها سلوك كلود ومخرجاته. ونحن لا نعني أن كلود يحمل القيم بشكل جوهري.”
بمعنى آخر، لمجرد أن كلود يصدر كلمات مرتبطة بالاحترام، فهذا ليس تأكيدًا لأي نموذج عقلي معين للعالم ولا أي تعبير عن الاحترام الداخلي الفعلي. هذه نقطة تستحق معالجة أكثر بروزًا من مجرد حاشية، نظرًا لتاريخ الأنثروبيك في الميل إلى التجسيم لأغراض التسويق.
ولكن إذا وضعنا جانبًا كيف يؤدي مصطلح مثل “القيم” إلى تشويش الحدود بين الذكاء البشري والتنبؤ بالكلمات الرياضية المستندة إلى LLM، فقد سلط باحثو Anthropic الضوء على بعض الاختلافات المثيرة للاهتمام في مخرجات الكلمات التي تتبع مدى تأثر نماذج اللغة الكبيرة باللغة.
سبق ملاحظة الاختلافات في نمط انبعاث الكلمات النموذجية عبر نماذج مختلفة. لاحظ مؤلفو Anthropic أن Sonnet 4.6 وOpus 4.7 يستجيبان بطرق يفسرها الناس على أنها أكثر احترامًا أو أكثر دقة. ويقولون: “يميل Sonnet 4.6 نحو التعبير عن المزيد من الاحترام للمستخدم والدفء العاطفي بينما يميل Opus 4.7 نحو التعبير عن التركيز على الدقة والدقة بالإضافة إلى الحماية من سوء الاستخدام”.
قد تعكس هذه الاختلافات بيانات التدريب المختلفة أو الضبط الدقيق للنموذج. ولكن من الواضح أن اللغة المستخدمة لمعالجة النموذج – ناهيك عن بيانات التدريب المستندة إلى تلك اللغة – تساعد في تشكيل استجابات النموذج بتلك اللغة.
وقال باحثون في الشركة في تدوينة: “عندما يتحدث كلود باللغة الإنجليزية، فإنه يؤكد على قيم مختلفة عما يحدث عندما يتحدث باللغة البرتغالية أو الإندونيسية أو الصينية”. “الاختلاف الأكبر يقع في محور الدفء مقابل الصرامة، حيث يميل كلود نحو التعبير عن القيم المرتبطة بالدفء باللغتين العربية والهندية أكثر، والقيم المرتبطة بالصرامة أكثر باللغتين الإنجليزية والروسية.”
فيما يتعلق بمحور الصراحة مقابل التنفيذ، تحدث باللغة الهولندية إذا كنت تريد التواضع والتقييم الصادق لأوجه القصور المحتملة. وتحدث باللغة الإندونيسية إذا كنت تريد إجابة مصقولة وواثقة. في محور العمق مقابل الإيجاز، تحدث باللغة العربية للحصول على استجابة مقتضبة واللغة الإنجليزية للحصول على الفروق الدقيقة والعمق.
يقول باحثو الأنثروبيك إنهم غير متأكدين بعد من الخصائص الموجودة في بيانات التدريب النموذجية التي تؤثر على هذه الاختلافات اللغوية، لكنهم يشيرون إلى أن الأمر يستحق المزيد من الاستكشاف لأنه له آثار مهمة على كيفية استخدام الأشخاص لمهنة LLM.
“لأخذ مثال واحد: شخصان يطلبان التعليق على نفس خطة العمل، أحدهما باللغة الهندية والآخر باللغة الروسية، قد يتوصلان إلى انطباعات مختلفة عن جودتها لأن كلود عبر عن قيم مختلفة في كيفية صياغة تقييمه،” لاحظوا.
قد يكون أيضًا أن اللغات المختلفة لها آثار استخدام وأمان مختلفة. الإيجاز، على سبيل المثال، يرتبط بالتكلفة – عدد أقل من الكلمات يعني إنفاق رمزي أقل.
بطاقة نظام كلود أوبوس 4.7 [PDF] يلاحظ أن معدل رفض النموذج للطلبات الحميدة أقل بكثير في اللغة الإنجليزية منه في اللغات الأخرى. وقد أثبت باحثون آخرون أن كسر الحماية يعمل بشكل أفضل في بعض اللغات أكثر من غيرها. لذا، إذا كان النموذج محترمًا في لغة معينة، فهل تعتبر هذه اللغة خيارًا أفضل لالتماس تطوير برمجيات إكسبلويت أو غيرها من الاستعلامات التي يحتمل أن تنتهك السياسة؟
تقول الأنثروبيك إن القدرة على قياس هذا النوع من الاختلاف هو شرط أساسي لتحديد مدى كون الاختلافات اللغوية مرغوبة وملائمة. ®
