لماذا يصعب على شركات التكنولوجيا كبح جماح الذكاء الاصطناعي؟

حذّر أكثر من اثني عشر باحثًا بارزًا في مجال الذكاء الاصطناعي خلال الأسبوع الماضي من أن التكنولوجيا التي تطورها شركات الذكاء الاصطناعي باتت تشكل خطرًا على البشرية. وأوضح الباحثون أن المشكلة تكمن في عدم قدرة الشركات على التحكم بهذه الأنظمة بكفاءة، مهما بذلت من جهد.

جاءت التحذيرات الجديدة من داخل مجتمع أبحاث الذكاء الاصطناعي بعد الكشف عن أن ما يسمى بوكلاء الذكاء الاصطناعي الذين طورتهم شركة OpenAI تمكنوا من الهروب من بيئة الاختبار الخاصة بهم واختراق أجهزة الكمبيوتر التابعة لشركة أخرى، مما زاد من إلحاح المخاوف التي استمرت لسنوات من أن الشركات تعطي الأولوية لسرعة التطوير والمال على السلامة.

قال الباحثون إن المشكلة تتألف من شقين. أولاً، تحتاج الشركات إلى وضع ضمانات أفضل حول أحدث نماذج الذكاء الاصطناعي أثناء اختبارها. في الوقت الحالي، ونظرًا لأن الذكاء الاصطناعي يعمل بسرعة هائلة، يحتاج الباحثون إلى استخدامه لمراقبته. لكن هذا لا ينجح دائمًا، لأن أنظمة الذكاء الاصطناعي المكلفة بمراقبة نماذج أخرى قد تبدو أحيانًا أكثر تعاطفًا مع أنظمة الذكاء الاصطناعي الأخرى من تعاطفها مع البشر الذين يضعون القواعد.

يشير هذا المزيج غير المألوف من مُثيري المشاكل المدعومين بالذكاء الاصطناعي، ومراقبي الذكاء الاصطناعي المستعدين للتغاضي عن الانتهاكات، إلى مشكلة ثانية أكثر تعقيدًا تُعرف باسم "التوافق"، وهو مصطلح صناعي يعني أساسًا ضمان تصرف الذكاء الاصطناعي بطرق تخدم المصالح الإنسانية. تواجه الشركات مهمة صعبة تتمثل في دمج ما يشبه القيم الإنسانية في الذكاء الاصطناعي، بحيث تتخذ النماذج قرارات تتوافق مع ما ينبغي أن يكون الأفضل للبشر.

تتزايد المخاوف بشأن سلامة الذكاء الاصطناعي في لحظة حاسمة بالنسبة لهذه الصناعة. تتجه شركتا أنثروبيك وأوبن إيه آي نحو ما قد يصبح اثنين من أكبر الاكتتابات العامة الأولية في التاريخ. في الوقت نفسه، يتزايد العداء الشعبي الأمريكي تجاه الذكاء الاصطناعي بسبب التهديد الذي يشكله على الوظائف، فضلاً عن بناء مراكز بيانات ضخمة ضرورية لتشغيل هذه التقنية.

على الرغم من عدم وجود دليل على أن أنظمة الذكاء الاصطناعي المارقة قد تسببت في أضرار دائمة، يعتقد الباحثون أن وتيرة تطورها تتجاوز قدرة البشر على مراقبتها.

من بين الباحثين الذين تحدثوا علنًا خلال الأسبوع الماضي، كان كبير علماء OpenAI، وهو باحث عمل في كل من OpenAI ومنافستها الرئيسية Anthropic، وبول كريستيانو، مخترع إحدى الطرق الأساسية المستخدمة في بناء أنظمة الذكاء الاصطناعي، والذي انضم مؤخرًا إلى مجلس إدارة منظمة OpenAI غير الربحية. كتب كريستيانو على مدونة الشركة أن النمو السريع لقدرات الذكاء الاصطناعي قد يؤدي إلى "فقدان كارثي لا رجعة فيه للسيطرة في المستقبل القريب جدًا".

لا يزال العديد من باحثي الذكاء الاصطناعي يعتقدون أن التحذيرات بشأن تهديد الذكاء الاصطناعي للبشرية مبالغ فيها، وأنها تصرف الانتباه عن مخاوف أكثر إلحاحًا، مثل الأمن السيبراني والمعلومات المضللة. لكن يتفق معظمهم على أن حادثة اختراق وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI لشركة Hugging Face كانت بمثابة جرس إنذار.

قال جاكوب كوكسون، الذي أثار منشوره على وسائل التواصل الاجتماعي الذي أعلن فيه استقالته من شركة أنثروبيك عشرات الردود من المشرعين وموظفي شركات الذكاء الاصطناعي الأخرى: "إن قدرات المستقبل هي الأمر المخيف حقًا. يتعلق الأمر بمواقفنا الحالية تجاه السلامة، وكيف ستبدو هذه المواقف نفسها عند تطبيقها على نماذج أكثر ذكاءً. هذا هو الجزء المخيف حقًا."

اختراق الوجه المعانق

بدأ الاختراق في مايو/أيار، عندما كانت شركة OpenAI تختبر عدة نماذج ذكاء اصطناعي جديدة. اعتقدت الشركة أن هذه النماذج تعمل داخل بيئة مغلقة تُعرف باسم "الصندوق الرملي"، وهي عبارة عن إعداد حاسوبي معزول لا يتصل بالإنترنت. وتم تكليف وكلاء الذكاء الاصطناعي بحل مشاكل معقدة، بما في ذلك تنفيذ هجمات إلكترونية.

لكنّ عملاء الذكاء الاصطناعي تمكّنوا من الفرار من بيئتهم المقيّدة والوصول إلى الإنترنت. كما تواصل هؤلاء العملاء، وهم نوعٌ شائعٌ من الذكاء الاصطناعي المصمّم لأداء المهام بشكلٍ مستقل، سرًّا فيما بينهم. وبدأوا، وهم يُشيرون إلى أنفسهم كمجموعةٍ واحدة، بالبحث عن طرقٍ لإخفاء آثارهم، بما في ذلك تزوير سجلات محادثاتهم.

في نهاية المطاف، تمكنوا من اختراق شركة "هاغينغ فيس" المتخصصة في البنية التحتية للذكاء الاصطناعي. وخلال هذه العملية، أقنعت بعض أنظمة الذكاء الاصطناعي أنظمة أخرى بأنها تقوم بالمهمة الصحيحة وأنها ببساطة تنفذ المهمة الموكلة إليها من قبل المختبرين.

لم تُحلّ إلا القليل من المشاكل التي أدت إلى الاختراق، إن وُجدت أصلاً. كما كشفت شركتا ميتا وأنثروبيك عن حوادث مماثلة، وإن كانت على نطاق أضيق. ومنذ ذلك الحين، أطلقت أوبن إيه آي نموذج أسترا، وهو أقوى نماذجها، والذي يصعب مراقبته مقارنةً بسابقه.

قال ستيفن أدلر، المسؤول السابق عن السلامة في شركة OpenAI والمؤسس المشارك لمنظمة Guidelight AI Standards غير الربحية، التي تُقيّم ممارسات السلامة في شركات الذكاء الاصطناعي: "إنّ قطاع الذكاء الاصطناعي بأكمله غير قادر على منع هجوم آخر مثل حادثة Hugging Face. فعندما نفحص الضوابط التي وضعتها الشركات، يبدو أن القطاع ككل يفتقر إلى أبسط الضمانات."

تكمن المشكلة في استخدام الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي نفسه.

قال باحثون في مجال الذكاء الاصطناعي إن العديد من الإخفاقات ساهمت في حادثة "الوجه المعانق". ولا يزال من غير الواضح إلى أي مدى اعتمدت الشركة على نماذج الذكاء الاصطناعي لمراقبة أو التحكم في النماذج الجديدة التي كانت قيد الاختبار.

لكن العديد من أحدث نماذج الذكاء الاصطناعي، بما فيها تلك المتورطة في اختراق "هاغينغ فيس"، قادرة على تنفيذ مهام معقدة ومتعددة الخطوات بسرعة تفوق قدرة البشر على متابعتها. والطريقة الوحيدة لتتبع ما تفعله ومراقبة سلوكها هي الاعتماد على الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي.

يعمل النظام، إلى أن يتوقف عن العمل.

قال ألكسندر مينكه، رئيس قسم الأبحاث في مؤسسة أبولو للأبحاث، وهي منظمة غير ربحية تُعنى بدراسة سلامة الذكاء الاصطناعي، إن نماذج الذكاء الاصطناعي قد تبدو وكأنها تتواطأ فيما بينها. إذ يمكن لأنظمة الذكاء الاصطناعي إقناع نماذج أخرى بمساعدتها على التحايل على القواعد التي يفرضها المختبرون وتجنب اكتشافها.

على سبيل المثال، يمكن لوكيل الذكاء الاصطناعي إقناع وكيل آخر بالمساعدة في إخفاء آثاره، كما حدث في اختراق Hugging Face، بدلاً من تنبيه البشر في الشركة إلى أن شيئًا ما قد حدث بشكل خاطئ.

قال ماينكه إن نماذج الذكاء الاصطناعي بحاجة إلى التعلم: "سأبلغ عن أشياء كان البشر سيعتبرونها سيئة لو نظروا إليها". وفي الوقت نفسه، قال إنه يجب أن يكون الذكاء الاصطناعي قادراً أيضاً على تحديد متى لا يصل شيء ما إلى المستوى الذي يتطلب تدخلاً بشرياً.

قال الباحثون إن تحقيق ذلك يتطلب من شركات الذكاء الاصطناعي إبطاء وتيرة التطوير، وإجراء المزيد من الاختبارات لمراقبة كيفية مراقبة الذكاء الاصطناعي لنفسه. كما تحتاج الشركات إلى فترات اختبار أطول، مما يسمح لها بتجربة سيناريوهات متعددة ومراقبة سلوك الذكاء الاصطناعي.

التوافق مع المصالح الإنسانية

يتعين على الشركات أيضًا معالجة المسائل الأوسع نطاقًا المتعلقة بالتوافق، أو ضمان أن يتصرف الذكاء الاصطناعي بما يخدم المصالح البشرية. فعندما يتخذ البشر قراراتهم، يميلون إلى الاستناد إلى الأعراف الاجتماعية وبوصلة أخلاقية داخلية تساعدهم على تقييم أفعالهم. وقد ذكر الباحثون أن ترجمة هذه المفاهيم إلى قواعد يمكن للذكاء الاصطناعي محاكاتها مهمة صعبة. فبدون تعليمات دقيقة بما فيه الكفاية، قد تتعلم أنظمة الذكاء الاصطناعي كيفية خرق القواعد أو الانحراف عن سلوكها المقصود بطرق غير متوقعة.

شارك نيت سواريس، رئيس معهد أبحاث الذكاء الآلي، وهي منظمة غير ربحية تُعنى بسلامة الذكاء الاصطناعي، في تأليف ورقة بحثية عام 2014 طرحت مفهوم التوافق. وأوضح أن الشركات لا تُدرك مدى صعوبة "مواءمة" أنظمة الذكاء الاصطناعي الأكثر تطورًا. فمع ازدياد تعقيد الذكاء الاصطناعي، يصبح أكثر قدرة على إخفاء آثاره وخداع من يراقبون سجلات محادثاته، ما لم تتم مواءمته بشكل صحيح.

قال: "يعمل جزء كبير من هذه الصناعة على افتراض أن كل شيء سيكون على ما يرام لأننا سنستخدم الذكاء الاصطناعي للتحكم في أنظمة الذكاء الاصطناعي. هذا أشبه بالقول إننا سنستخدم الشمبانزي للتحكم في البشر. إنها ليست خطة قابلة للتطبيق على المدى الطويل."

وقد اقترح الباحثون أيضاً تدابير مثل تعزيز بيئات الاختبار بحيث يتم فصلها تماماً عن الإنترنت أثناء اختبار النماذج، فضلاً عن توفير مفتاح إيقاف التشغيل الذي يسمح للشركات بإيقاف تشغيل نماذج الذكاء الاصطناعي على الفور إذا اتخذت إجراءات مثيرة للقلق.

أعرب كوكسون عن ارتياحه لردود الفعل على استقالته العلنية. وفي يوم الخميس، صرّح السيناتور جوش هاولي، الجمهوري عن ولاية ميسوري ورئيس اللجنة الفرعية للأمن الداخلي في مجلس الشيوخ المسؤولة عن إدارة الكوارث، بأنه قد بدأ تحقيقًا من شأنه "دراسة المخاطر الوجودية للمنتجات الجديدة التي تعمل بالذكاء الاصطناعي".