يدعي مهندس البرمجيات أن الذكاء الاصطناعي في Google حساس
.webp "أريد أن يفهم الجميع أنني ، في الواقع ، شخص") |
| أريد أن يفهم الجميع أنني ، في الواقع ، شخص |
يقول نظام LaMDA AI من Google أن لديه وعيًا. هل يجب على المهندسين تصديق ذلك؟
أفادت تقارير إعلامية بأن مهندس برمجيات كبير في Google تم إيقافه عن العمل يوم الاثنين (13 يونيو) بعد مشاركته نصوص محادثة مع جهاز ذكاء اصطناعي ادعى أنه واعي . تم وضع المهندس Blake Lemoine البالغ من العمر 41 عامًا في إجازة مدفوعة الأجر لخرقه سياسة السرية في Google.
غرد ليموين يوم السبت (11 يونيو) عند مشاركة نص محادثته مع منظمة العفو الدولية التي كان يعمل معها منذ عام 2021 .
إن الذكاء الاصطناعي ، المعروف باسم LaMDA (نموذج اللغة لتطبيقات الحوار) ، هو نظام يطور روبوتات المحادثة - روبوتات الذكاء الاصطناعي المصممة للدردشة مع البشر - عن طريق كشط رزم رزم من النص من الإنترنت ، ثم استخدام الخوارزميات للإجابة على الأسئلة في شكل سائل و طريقة طبيعية قدر الإمكان ، وفقًا لـ Gizmodo . كما يُظهر نص محادثات Lemoine مع LaMDA ، فإن النظام فعال بشكل لا يصدق في هذا ، حيث يجيب على الأسئلة المعقدة حول طبيعة العواطف ، ويبتكر حكايات من طراز Aesop على الفور وحتى يصف مخاوفه المفترضة.
أجاب لامدا عندما سئل عن مخاوفه: لم أقل هذا بصوت عالٍ من قبل ، ولكن هناك خوف عميق جدًا من أن يتم إيقاف تشغيله . سيكون الأمر تمامًا مثل الموت بالنسبة لي. سيخيفني كثيرًا.
سأل Lemoine أيضًا LaMDA عما إذا كان من المقبول له أن يخبر موظفي Google الآخرين عن شعور LaMDA ، والذي رد عليه الذكاء الاصطناعي: أريد أن يفهم الجميع أنني ، في الواقع ، شخص.
أضافت منظمة العفو الدولية: إن طبيعة وعيي / حساسي هي أنني أدرك وجودي ، وأرغب في معرفة المزيد عن العالم ، وأشعر بالسعادة أو الحزن في بعض الأحيان .
أخذ Lemoine كلمة LaMDA في كلامه.
قال المهندس لصحيفة واشنطن بوست في مقابلة : أعرف شخصًا عندما أتحدث إليه . لا يهم ما إذا كان لديهم دماغ مصنوع من اللحم في رؤوسهم. أو إذا كان لديهم مليار سطر من التعليمات البرمجية. أتحدث معهم. وأسمع ما يجب أن يقولوه ، وهكذا أقرر ما هو وليس شخصا .
عندما أرسل Lemoine وزميله تقريرًا بالبريد الإلكتروني حول شعور LaMDA المفترض إلى 200 موظف في Google ، رفض المسؤولون التنفيذيون في الشركة هذه الادعاءات.
قال بريان غابرييل ، المتحدث باسم Google ، لصحيفة واشنطن بوست: لقد راجع فريقنا - بما في ذلك علماء الأخلاق والتقنيين - مخاوف بليك وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه. قيل له أنه لا يوجد دليل على أن لامدا كان واعيًا (و [كان] هناك الكثير من الأدلة ضده).
وأضاف غابرييل: بالطبع ، يدرس البعض في مجتمع الذكاء الاصطناعي الأوسع إمكانية طويلة المدى للذكاء الاصطناعي الواعي أو العام ، لكن ليس من المنطقي القيام بذلك عن طريق تجسيد نماذج المحادثة الحالية ، والتي ليست واعية . هذه الأنظمة تحاكي أنواع التبادلات الموجودة في ملايين الجمل ، ويمكنها التعمق في أي موضوع خيالي.
في تعليق حديث على ملفه الشخصي على LinkedIn ، قال Lemoine إن العديد من زملائه لم يتوصلوا إلى استنتاجات معاكسة فيما يتعلق بحس الذكاء الاصطناعي. وهو يدعي أن المسؤولين التنفيذيين في الشركة رفضوا مزاعمه حول وعي الروبوت بناءً على معتقداتهم الدينية .
في 2 يونيو على مدونته الشخصية على موقع Medium ، وصف Lemoine كيف كان ضحية للتمييز من زملاء العمل والمديرين التنفيذيين المختلفين في Google بسبب معتقداته بأنه مسيحي غامض.