رونان فارو يتحدث عن “نمط الخداع” لسام التمان و”ثقافة الضجيج” في وادي السيليكون

لذا قمنا بدعوة فارو إلى “توقيت المحيط الهادئ” لتحليل ما اكتشفه ــ وما يعنيه بالنسبة لأولئك منا الذين يعيشون في نفس المدينة التي يعيش فيها الرجل الذي ربما يكون أو لا يكون هو الذي يبني الشيء الذي ينهي العالم كما نعرفه.

فيما يلي ستة اكتشافات من المناقشة التي ظلت عالقة معنا.

يستخدم OpenAI قصة فارو ضد إيلون ماسك في المحكمة. بعد نشر المقال، يقول فارو إن OpenAI أرسلت خطابًا إلى اثنين من المدعين العامين قائلين إنهما يثقان في تصوير القصة لكيفية تأسيس الشركة وما حدث بعد الإطاحة بألتمان ثم إعادته إلى منصبه. ويستشهدون بها في دفاعهم ضد الدعوى التي رفعها ” ماسك ” ضد الشركة، والتي تزعم أن الشركة تخلت عن مهمتها الأصلية غير الربحية.

وعندما واجه ألتمان بالكذب بعد طرده، قال لمجلس الإدارة: “لا أستطيع تغيير شخصيتي”. أفاد فارو أن هذا كان رد ألتمان على مكالمة حيث كان مجلس الإدارة يضغط عليه للاعتراف بنمط من الخداع وإرضاء الناس. وأخبر فارو لاحقًا أنه ربما كان يتحدث عن قدرته على جمع الفصائل المتباينة معًا

وبحسب ما ورد اعترف ألتمان بأن الذكاء الاصطناعي الأكثر صدقًا سيفقد “سحره”. قام فارو بربط النقاط بين ميول ألتمان الموثقة جيدًا لإرضاء الناس، بالإضافة إلى علاقته الفضفاضة مع الحقيقة، والتملق والهلوسة المخبأة في ChatGPT.

لا يقتصر الأمر على OpenAI فقط. يقول فارو إن شركة أنثروبيك قد خففت أيضًا من التزاماتها المتعلقة بالسلامة. كثير من الناس في هذه المدينة يعاملون الأنثروبي كشخص بالغ مسؤول في الغرفة. وجهة نظر فارو، بعد 18 شهرًا في عالم الذكاء الاصطناعي: إن ديناميكية السباق إلى القاع منتشرة في جميع أنحاء الصناعة.

فارو مقتنع بأن مخاطر الذكاء الاصطناعي ليست قادمة، فهي موجودة بالفعل. إن فارو أقل قلقًا بشأن نهاية العالم المستقبلية للذكاء الاصطناعي بقدر قلقه بشأن الاضطرابات في العالم الحقيقي الجارية بالفعل. إنه يتحدث عن الاضطراب الاقتصادي الذي يحدث الآن، والدور الموثق للذكاء الاصطناعي في أزمات الصحة العقلية، والتكنولوجيا المارقة. وقال “إنه ليس إسقاطا”. “إنه يحدث.”

إن النشأة في ظل رقابة عامة مكثفة تُعلمنا كيف يتحدث فارو عن السلطة. أنا وفارو نناقش شيئًا واحدًا مشتركًا بيننا: الآباء المشهورون. والدي هو الممثل ريتشارد دريفوس، بينما فارو هو ابن ميا فارو وودي آلن. يتحدث عن كيف أن التقارير “سوء النية” التي عانت منها عائلته على مر السنين تساعده على التواصل مع المصادر التي تجد نفسها تحت أنظار وسائل الإعلام المكثفة.

شاهد المقابلة الكاملة هنا أو على YouTube أو استمع إلى “PST” أينما حصلت على ملفات البودكاست الخاصة بك.

اقرأ نسخة معدلة ومختصرة من محادثتنا أدناه.

إميلي دريفوس: لقد قمت مؤخرًا بنشر قصة مذهلة في مجلة نيويوركر مع مؤلفك المشارك أندرو مارانتز حول سام التمان. بعد نشر قصتك الأسبوع الماضي، وقع هجومان على منزل ألتمان هنا في سان فرانسيسكو

في وقت سابق من الأسبوع، عندما رد ألتمان على مقالتك، وصفها بأنها حارقة وقال إنها قد تجعل الأمور أكثر خطورة بالنسبة له. هل تعتقد أن هذا عادل؟ هل وصلنا إلى مرحلة حيث سئم الناس من أباطرة الذكاء الاصطناعي هؤلاء لدرجة أنهم أخذوا غضبهم إلى الشوارع؟

رونان فارو: بالتأكيد، هناك لحظة من الإحباط على المستوى الوطني بشأن أزمة الشرعية الملحوظة في قيادة الذكاء الاصطناعي. ويرجع ذلك إلى الأسئلة المشروعة حول شرعية القيادة والافتقار إلى حواجز حماية على صناعة يمكن، من خلال قبول الأشخاص الرئيسيين فيها، أن تؤثر على مستقبلنا جميعًا بشكل حاد للغاية، والتي لها آثار على الحرب، والأسلحة الكيميائية، والتضليل، والاقتصاد، والتي حتى من خلال التوقعات الاقتصادية الأكثر تحفظًا يمكن أن تهدد الملايين والملايين من الوظائف.

من المفهوم أن الأمر وصل إلى نقطة الانهيار التي تتحدث عنها. كان قبل هذه القصة بالذات. وغني عن القول أنه لا ينبغي أبدًا أن تكون هناك تهديدات بالتخريب أو العنف لأي من الشخصيات المتورطة في هذا الأمر. أريد أن يكون كل هؤلاء الناس آمنين. أريد ألا يشعر سام ألتمان وعائلته بالخوف على الإطلاق

من المهم الإشارة إلى أن هذه القصة قد تم التحقق منها بدقة، وأن OpenAI لا تشكك في الحقائق الأساسية. التقارير هنا موثوقة. لا ينبغي إلقاء اللوم على الصحافة الناقدة في لحظة من القلق الوطني مثل هذه أو في هذا النوع من الهجمات. ومن التأكيد غير الصحيح إقامة أي علاقة سببية بين هذا التقرير وإلقاء الزجاجة.

هناك استطلاعات واسعة النطاق تظهر أن غالبية الأميركيين لديهم الآن المزيد من التساؤلات والإدراك للجوانب السلبية حول هذه التكنولوجيا مقارنة بالجوانب الإيجابية.

وهذا يرتكز على المخاطر الجسيمة لهذه التكنولوجيا. المخاطر، بالمناسبة، التي كان سام ألتمان أحد أكبر المثيرين للقلق بشأنها. لغة “هذا قد يقتلنا جميعًا” ؛ لغة “هذه أقوى من الأسلحة النووية”. الإقرار بفقدان الوظائف

عندما نتحدث عن الحد من المخاوف، فالحقيقة هي أن أساس تلك المخاوف موجود في الحقيقة حول التكنولوجيا. وعندما يتعلق الأمر بمسألة مدى خطورة هذا الخطاب، وهل يثير قلق الناس، فقد بنى سام ألتمان شركة على هذا النوع من الخطابة المشؤومة.

لنتحدث عما تعلمته خلال 18 شهرًا من كتابة هذه القصة. ما استنتجه الكثير من الأشخاص من مقالتك هو أن سام ألتمان يبدو كاذبًا. هل تقول أن هذا تقييم عادل؟

لقد تحدثنا إلى الكثير من الأشخاص وراجعنا العديد من المستندات الداخلية حيث كانت هناك شكاوى وتنبيهات حول هذه السمة المزعومة. نحن نحمل ونستكشف مجموعة من وجهات النظر حول السؤال الذي تطرحه.

هناك أطراف نتحدث إليها وتقول: “حسناً، هذا مجرد كذب قهري إلى درجة أنه يشكل خللاً وظيفياً بالنسبة لأي مسؤول تنفيذي في شركة كبرى”.

هناك أشخاص يقولون إن هذا يمثل مسؤولية كبيرة جدًا من وجهة نظر الأعمال فقط. وأنا أتحدث عن كبار المستثمرين، والأشخاص الذين لديهم حصة في OpenAI، والأشخاص المرتبطين بألتمان الذين يريدون رؤيته ناجحًا ويشعرون بالقلق.

ثم هناك الطرف الآخر من الطيف، حيث يقول الناس أن هذه التكنولوجيا تتطلب مستوى فريدًا من النزاهة. وهذه السمة المزعومة للخداع المتسلسل لا لا يمكن الدفاع عنها من الناحية العملية فحسب، ولكنها خطيرة أيضًا.

لذا فإننا ننظر إلى هاتين المجموعتين من وجهات النظر بقدر كبير من التدقيق، ونحمل أيضًا آراء المدافعين، أي شخص أراد سام نفسه أن نتحدث معه ونستمع إليه. وأعتقد أن السبب وراء عدم وجود نزاع حول الحقائق الأساسية هو أن هذه التقارير عادلة ومدروسة حقًا. يمكن للقارئ أن يقرر الإجابة على مسألة الجدارة بالثقة بنفسه.

ما الذي جذبك إلى سام التمان كشخصية؟

كنت قد قمت للتو بإعداد مجموعة كبيرة من التقارير عن إيلون ماسك، وما ظهر في تلك المقالة كان صورة لأباطرة المال والأعمال في العصر الحالي، لا سيما في وادي السيليكون، وهم يكتسبون سلطة حكومية عظمى. وفي حالة “إيلون” كان ذلك من خلال تقنية “ستارلينك” الخاصة به. لقد كان يتخذ حرفيًا قرارات مادية بشأن نتيجة الحرب في أوكرانيا ويقطع الاتصالات على الخطوط الأمامية. لذلك كان ذلك رائعًا بالنسبة لي. لقد نظرت إلى الذكاء الاصطناعي باعتباره الحافة الخارجية المطلقة لهذا الخلل.

لم تكن طريقتي في هذا الأمر، كما تعلمون، هي أن كذب سام على أساس فردي أمر مزعج للغاية بالنسبة لي. ذلك لأنه يمثل أزمة نزاهة أوسع في قيادة هذه التكنولوجيا وتعاملات OpenAI مع الأنظمة السياسية المحيطة بها.

تم إنشاء OpenAI كمنظمة غير ربحية كان من المفترض التأكد منها آمن كان الذكاء الاصطناعي متاحًا للجميع. وفي مكان ما على طول الطريق، يبدو أنها أصبحت شركة تهتم فقط بالمال والسلطة. هل أصبح الآن صحيحًا بشكل صارخ أن OpenAI قد تخلت نوعًا ما عن تلك الأهداف المثالية السابقة؟

في البداية كان خطاب جمع التبرعات هو: “هذه التكنولوجيا أكثر خطورة من الأسلحة النووية”. وقد قال سام ذلك لإيلون ماسك. وكان إيلون نفسه محكومًا عليه بالهلاك في ذلك الوقت. وكان الأمر يتعلق بمناشدة تلك الحساسية.

منذ تطوير روبوتات الدردشة التي تواجه المستهلك وتفجير الذكاء الاصطناعي، أصبح هذا السباق أحد الأشياء التي التزمت OpenAI في التزاماتها الأولية بمنعها.

لدينا لحظة في المقال حيث يقوم أحد المبلغين عن المخالفات الداخلية، وهو رجل يُدعى جان ليك، بإرسال بريد إلكتروني إلى مجلس الإدارة يقول فيه: “OpenAI خرجت عن المسار الصحيح في مهمتها” ويتحدث عن خطر السباق نحو القاع، قائلًا إن المشكلة لا تكمن في OpenAI فقط. وهذا هو تعليم Google والمنافسين الآخرين أنه يجب عليهم أيضًا أن يختصروا الطريق ويتسابقوا.

أثناء إعداد تقاريرك، تحدثت إلى سام ألتمان عدة مرات، وقد تم وصفه [in the piece] كمتلاعب رئيسي من قبل البعض. كيف كانت المقابلة معه؟ هل شعرت في أي وقت أنه كان يحاول استخدام حيل الجيداي الذهنية عليك؟

بالتأكيد. كانت سمات سام ألتمان، التي تحدث عنها الكثير من الناس في المقال، واضحة في بعض الأحيان في المحادثات المكثفة التي كنت أجريها معه. أعتقد أنني فهمت سام بعمق إلى حد ما. لدي تعاطف كبير مع سام بعدة طرق. وأشعر بعبء كبير، كما تعلمون، على الإنصاف والقيام بالصواب من قبل سام.

– ومن أين يأتي شعورك بالتعاطف؟

تفسير سام للكذب هو أنه في وقت مبكر من حياته المهنية، كان لديه ميل لتحويل الصراعات وإرضاء الناس، وهو ما اعترف بأنه سبب له مشاكل.

أريد أن أؤمن بقدرة الناس على النمو والتغيير. أريد، عندما أقوم بالإبلاغ عن شخص كهذا، أن أمنحهم فائدة الشك وأن أكون كرماء قدر الإمكان. لقد أخبرت سام منذ البداية، بكل شفافية، “هذه مقالة تدقق في بعض أشد الانتقادات الموجهة إليك. “لن يكون من الممتع قراءته”. لذلك شارك وهو يعلم ذلك.

هل كان لا بد من اقتناعه؟ هل كان مترددا؟

لن أتحدث عن حالته العقلية بخلاف الأشياء التي اقتبستها في المقال. سأقول أنه في أي وقت يكون لديك مجموعة من التقارير مثل هذه، يكون الأمر مضغوطًا للغاية ويمكن أن يكون قتاليًا ومثيرًا للجدل. في كثير من الأحيان يكون هناك الكثير من التهديدات المتطايرة ذهابًا وإيابًا.

لذا فهي عملية مرهقة ودقيقة حيث يتعين عليك فقط التعامل مع التقلبات التي يمكن أن تكون جوهرية في هذه اللحظات. مهما كانت المحادثات المثيرة للجدل، فقد اختار سام ألتمان المشاركة كثيرا ــ مرارا وتكرارا. وأنا ممتن في نهاية المطاف لأنه عندما تتغلب على أي أعمال عدائية، فإن ما تحصل عليه هو أن يكشف شخص ما المزيد عن وجهة نظره.

لقد أجريت محادثات حيث كنت أحاول بشكل مباشر اختراق المستوى الشخصي. كما تعلمون، “ما هي تجربتك الفردية مع كل من حولك يقولون هذا؟” كما تعلمون، سيكون ذلك مدمرًا بالنسبة لي. “كيف تحمل ذلك؟” هل تتحدث عن ذلك في العلاج؟» لذا فقد حاولت حقًا الوصول إلى مكان يتمتع بأقصى قدر من الفهم، والذي نأمل أيضًا أن يوضح النغمة الرصينة والمتساوية للقطعة.

هذا يقودني في الواقع إلى شيء أردت أن أتحدث معك عنه: وضعك كطفل في هوليود. لقد كنت متشوقًا لسؤالك عن هذا منذ سنوات لأن والدي هو الممثل الشهير ريتشارد دريفوس. قد يكون هذا خبرًا جديدًا لأي شخص يستمع إلى البودكاست –

نعم، لم أكن أعرف ذلك.

حسنا، أنا خاص جدا حول هذا الموضوع. ولكن عندما شاهدت تقريرك التاريخي عن حركة #MeToo والطريقة التي بدت بها خلفيتك توضح الطريقة التي تمكنت بها من التواصل مع الأشخاص في القصة، كان ذلك توضيحيًا حقًا بالنسبة لي. اعتقدت أنك هنا أصيل جدًا في تجربتك.

كيف تساعدك تجربتك في السلطة والشهرة على فهم الأشخاص الأقوياء وربما التعاطف معهم في هذه اللحظات؟

هذه واحدة من الوجبات الأساسية التي تعلمتها من تجاربي المؤلمة ومن ظهور غسيلي القذر في عائلتي بشكل مؤلم. لقد تم استهدافي من قبل الصحافة سيئة النية، خاصة عندما قمت بتغطية التقارير التي ساهمت في نهاية المطاف في استجواب National Inquirer وشركتها الأم أمام المدعين العامين حول مدفوعات ترامب السرية. لقد كنت أتعرض للضرب حقًا بأكثر الطرق سوء نية ممكنة. إنه مخيف. وكل ما يمكنك الاعتماد عليه حقًا هو التقارير التي تقدمها بحسن نية وكونك من النوع الذي ترغب في تلقيه. لذلك أنا أعرف الفرق بين هذين الأمرين.

هناك طرق أكون بها في وضع الرفاهية. يمكنني اختيار مواضيعي، ويمكنني قضاء الوقت. أنا محظوظ للغاية، ولكن الأمر أصعب أيضًا في بعض النواحي. أنا دائما مانعة الصواعق. أنا دائما هدف سهل. عندما يغضب الناس الذين أبلغ عنهم [something]فمن الأسهل عليهم أن يجعلوا الأمر شخصيًا. أفضل دفاع لدي هو التأكد من أن التقرير يتم بحسن نية ونزيهة بشكل لا يرقى إليه الشك.

تقريرك يرسم هذه الصورة لسام التمان الذي لا يعرف الحقيقة. نسمع أيضًا عن الكثير من الأشخاص الذين عرفوا ذلك إلى الأبد. أعني أن آرون سوارتز أثار هذا الأمر في عام 2013.

ماذا يخبرنا هذا عن الثقافة السائدة حاليًا في وادي السيليكون؟ هل نتعامل مع ثقافة لا بأس بها مع علاقة فضفاضة بالحقيقة؟

قطعاً. الأمر المثير للاهتمام في هذه القطعة هو أن لديك هذا الفهم الأساسي، حتى في نظر المدافعين عن سام وحتى في رواية سام التمان نفسه، هذا [lying] لقد كانت مشكلة. ورد الفعل من حوله لا يبدو كما يلي: “هذا أمر لا يمكن الدفاع عنه بالنسبة للأشخاص الذين يشغلون مناصب أكثر قوة، والذين يشكلون التكنولوجيا الأكثر قوة وخطورة على الإطلاق”.

بل بدلاً من ذلك، “أليس هذا ما يفعله المسؤولون التنفيذيون في وادي السليكون؟” أليس هذا هو المؤسس؟ أليس هذا ما يتطلبه الأمر لبناء شركة ناشئة؟».

هناك مكالمة نبلغ عنها بعد ذلك [Altman] تم طرده ويضغط عليه مجلس الإدارة للاعتراف بنمط من الخداع. وكانت إحدى ردوده، وفقًا للأشخاص المشاركين في المكالمة، “لا أستطيع تغيير شخصيتي”. وفي يومنا هذا قال: “لا أتذكر تمامًا [but] ربما كنت أتحدث عن قدرتي على أن أكون صانعاً للسلام وأن أخبر الفصائل المختلفة بالأشياء المطلوبة. وأنا أعيد الصياغة هنا، ولكن الأشياء المطلوبة للجمع بين المجموعات المتباينة وبناء مشروع.

وهناك فهم واحتضان لثقافة الضجيج. إن القصة الكاملة لوادي السيليكون تكمن في التقييمات المتضخمة بشكل كبير قبل فترة طويلة من وجود نتائج قابلة للتنفيذ ومنتجات قابلة للتنفيذ. لقد أصبح ذلك أمرًا طبيعيًا جدًا

من السهل تجاهل ما يحدث في الذكاء الاصطناعي باعتباره جزءًا من آلة الضجيج هذه، ولكن السؤال هو ما إذا كانت المخاوف قد تم تجاهلها أيضًا، لأن المخاوف يتم تضخيمها أيضًا. وأعتقد أن ما تطرحه تقاريرك ربما هو حقيقة أننا في هذه اللحظة حيث نحتاج بالفعل إلى مواجهة هذه المخاوف بشكل مباشر.

أعتقد أن هذا صحيح تمامًا، والقطعة تستكشف وتقدم نطاقًا واسعًا من وجهات النظر. أنصار السلامة الذين يقولون: “نعم، هذا لا يزال حقيقيا، وهذا يمكن أن يقتلنا جميعا في نهاية المطاف”. والحقيقة هي أننا حصلنا بالفعل على أدبيات تم التحقق منها ومراجعتها من قبل النظراء حول مدى السرعة التي يمكن بها لهذه النماذج توليد عوامل الأسلحة الكيميائية. والقائمة تطول وتطول فيما يتعلق بالمخاوف الاقتصادية والعملية والمتعلقة بالسلامة التي وصلت.

نتحدث عن الصدع مع [Anthropic founder] داريو أمودي والطريقة التي ترك بها أمودي ومجموعة من الآخرين OpenAI لأنهم لم يثقوا بسام ولم يثقوا في تطوير التكنولوجيا وكيف كانت تسير في ظل OpenAI. لقد أرادوا الحفاظ على مهمة السلامة الأصلية هذه. نحن نقر في المقالة بأن الأنثروبيك لديها، في بعض النواحي، المزيد من المواد حول التزامات السلامة. ولكننا شهدنا أيضًا تراجع المياه البشرية عن العديد من التزاماتها الرئيسية المتعلقة بالسلامة. ونحن نراهم يشاركون في بعض النواحي بنفس الطريقة، كما يقول النقاد المزعومون، وهم يتسابقون إلى القاع. لذا، هناك مساحة متضائلة لأي شخص يؤمن بالمخاطر ويريد بناء مشروع تجاري حول هذا الموضوع بشكل أساسي

لقد خرجت من المقال مقتنعًا إلى حد ما، سواء كنت تصدق السيناريوهات البعيدة أم لا، بالمخاطر التي تتجسد الآن على الوظائف، وعلى سلامتنا، وعلى الاقتصاد.

– وليس الاقتصاد فقط، أليس كذلك؟ أعني، إنها أيضًا الأشياء الاجتماعية والنفسية حيث يعتمد الناس على روبوتات الدردشة هذه لعلاج وحدتهم وعدم الاتصال بأصدقائهم. أعني، هذه هي الأشياء التي تحدث الآن.

بعمق. ومن الأمثلة الرائعة على ذلك المشكلتان المزدوجتان المتمثلتان في التملق والهلوسة في نماذج الذكاء الاصطناعي هذه. التملق، هو الطريقة التي يمتصون بها ويعكسون ما يعتقده المستخدم ويريد سماعه. الهلوسة هي عندما يقومون بتوليد الإجابات والتنبؤ بالكلمة التالية التي يجب أن تكون التالية. هناك هذه الضرورة القوية لتعويض الأشياء في بعض الأحيان

لذا، لديك تدريب معزز بالبشر تستخدمه هذه المختبرات حيث تعلم في هذه المرحلة أن مشكلة الهلوسة لم يتم حلها. وأن التعلم المعزز لدى الإنسان يعزز التملق، أليس كذلك؟ البشر يحبون الإجابات المقبولة. لذا فإنهم يصنفونها أعلى. لذا تتعلم العارضات رد الشيء الذي سيسعد الشخص أو المجموعة المعنية أكثر من غيره.

ويعود الأمر إلى هذه القضايا الهيكلية الأوسع. هذا لا يتعلق بسام التمان. يتعلق الأمر بصناعة بلا حواجز حماية، وبدون رقابة ذات معنى، والكثير من المخاطر التي نلعبها بالفعل بالنسبة لبقيتنا.

سنكون مقصرين إذا لم نشير إلى أن هذه القضايا التي طرحتها للتو من التملق والهلوسة تذكرني بالأشياء التي يقولها الناس صحيحة عن شخصية سام ألتمان أيضًا – فهو شخص يرضي الناس ولديه علاقة فضفاضة مع الحقيقة.

حسنًا، نقتبس من قول سام ألتمان إنك تستطيع إنشاء نموذج أكثر واقعية ــ من وجهة نظره ــ ولكنه يفتقر إلى بعض السحر الذي يحبه الناس.

أعتقد أن هذا يتحدث عن نفسه.