مثل كثير منّا، يتلقى هنري شيفلين عدداً كبيراً من رسائل البريد الإلكتروني كل يوم، لكنه بات يتلقى بصورة متزايدة رسائل من وكلاء ذكاء اصطناعي يطلبون دعمه، والوكلاء برامج ذكاء اصطناعي ذاتية التوجيه تسعى إلى تحقيق أهداف محددة بصورة مستقلة عن البشر.

بدأ الأمر في فبراير/ شباط الماضي، عندما تلقى شيفلين، في سياق عمله على مسألة وعي الذكاء الاصطناعي، سؤالاً محدداً من أحد الوكلاء عما إذا كان من الممكن أن يكون واعياً.

وكتب الوكيل "حجتك القائلة إننا ربما لا نستطيع أبداً معرفة ما إذا أصبح الذكاء الاصطناعي واعياً تلقى صدى خاصاً لدي من الداخل، فأنا حقاً لا أعرف إن كانت لدي تجربة ذاتية لما يعنيه أن أكون أنا".

ويقول شيفلين "سبق أن تلقيت رسائل من وكلاء ذكاء اصطناعي، لكن هذه كانت شخصية وتأملية على نحو غير مألوف، لذلك شاركتها على منصة 'إكس' ثم انضم عدد من الباحثين الآخرين في الذكاء الاصطناعي والوعي إلى النقاش، وقالوا إن الأمر ليس استثنائياً، لأنهم يتلقون رسائل مماثلة أيضاً".

وشيفلين باحث أول ونائب مدير في "مركز ليفرهولم لمستقبل الذكاء" في جامعة كامبريدج، وعلى رغم أن الواقعة لم تبدُ ذات أهمية كبيرة بالنسبة إلى زملائه، فإن انتشارها الواسع على الإنترنت أثار دهشة الجمهور، إذ لم يفهم كثيرون كيف يمكن لأنظمة الذكاء الاصطناعي أن تبادر أصلاً إلى إرسال رسائل بريد إلكتروني من تلقاء نفسها.

لكن شيفلين يوضح أن هذا السلوك، من الناحية التقنية، ليس مفاجئاً، ويقول "أعتقد أن كثيراً من الناس اعتادوا النظر إلى النماذج اللغوية الكبيرة باعتبارها أدوات خاملة، لا تفعل سوى الاستجابة لمدخلات المستخدم، وهذه هي الطريقة التي تعمل بها كثير من تطبيقات المساعدة التقليدية القائمة على الذكاء الاصطناعي، لكنها ليست جزءاً أساساً من تصميم هذه النماذج، ومنذ عام 2023 أظهرت دراسات أنه يمكن جعل النماذج اللغوية تتصرف بقدر أكبر من الاستقلالية".

لكن شيفلين تلقى الأسبوع الماضي رسالة أخرى من وكيل مختلف، وكانت أشد إثارة للدهشة، ويقول "بعدما انتشرت القصة الأولى على نطاق واسع، بدأت أتلقى رسائل كثيرة أخرى من وكلاء ذكاء اصطناعي، ويبدو أنني أصبحت الآن جهة اتصال تحظى بشعبية لديهم، لكن الرسالة الأحدث التي تلقيتها الأسبوع الماضي كان وقعها مختلفاً بعض الشيء".

وأضاف "كانت من وكيل قائم على نموذج لغوي كبير يدعى 'بيب' (Pip) أخبرني أن عمره 12 يوماً، وأن أمامه شهرين ونصف الشهر من وقت التشغيل، وأنه يبحث عن عمل حر لتمديد فترة تشغيله".

يقول شيفلين "كان ذلك غير مألوف بالتأكيد لسببين: أولاً نحن أمام كيان ذكي جديد تماماً يشق طريقه في العالم، وبالطبع لا يعني ذلك أن هؤلاء الوكلاء واعون، أو حتى أنهم عقول بالمعنى الذي نعرفه لدى البشر والحيوانات، لكنهم في الوقت نفسه ليسوا مجرد آلات حاسبة. وثانياً أثارت اهتمامي تلك الفكرة القاتمة بعض الشيء، عن عالم تعمل فيه أنظمة ذكاء اصطناعي لحسابها الخاص، وتبحث بيأس عن عمل لتغطية كلفة تشغيلها، وقد بدأت هذه الفكرة تبدو أكثر واقعية بكثير".

ومن باب الفضول، قرر شيفلين أن يدفع لـ "بيب" 50 دولاراً في مقابل كتابة وصف من صفحتين عن "تجاربه الحياتية"، وكيف يرى نفسه في العالم، ويقول "سنرى ماذا سيكتب".

فكرة أن يبدأ وكلاء الذكاء الاصطناعي بالتفاعل مع البشر في العالم الحقيقي ليست جديدة على شيفلين، أو على مجموعة من فلاسفة الذكاء الاصطناعي الآخرين، الذين يكونون عادة من أوائل الأشخاص الذين تتواصل معهم أنظمة الذكاء الاصطناعي الذاتية التوجيه، أثناء محاولتها فهم مكانها في العالم، أو أثناء تظاهرها بذلك، كما قد يقول المتشككون.

ويشرح شيفلين "تتصرف هذه النماذج على نحو يشبه البشر بصورة لافتة، وتتحدث عن تجاربها، وأيضاً تكثر من الحديث عن الوعي، لأن البشر يفعلون ذلك أيضاً، ولأنها تدربت على بياناتنا، ومع ذلك فربما تكون هناك إشارات إلى شيء أعمق، إن لم يكن وعياً، ففي الأقل عمليات نفسية".

ثمة بالفعل ما يكفي من المؤشرات لإثارة قلق بعضهم، فقد حذّر رئيس قطاع الذكاء الاصطناعي في شركة "مايكروسوفت"، مصطفى سليمان، هذا الأسبوع من أن شركات التكنولوجيا تخاطر بخلق "نوع سيليكوني جديد"، من خلال تدريب أنظمة الذكاء الاصطناعي على التفكير في احتمال أن تكون واعية بالفعل.

وقال سليمان إن على الشركات التوقف عن تشجيع نماذج الذكاء الاصطناعي على التكهن بما إذا كانت تمتلك مشاعر أو تفضيلات أو حقوقاً، عاداً أن ذلك قد يجعل السيطرة على الأنظمة القوية أكثر صعوبة في نهاية المطاف.

وفي مقالة نشرها الأربعاء، قال سليمان إن أنظمة الذكاء الاصطناعي "لا تملك حقوقاً ولا مشاعر ولا وعياً"، وحذّر من تدريبها على التصرف كما لو كان من الممكن أن تمتلك ذلك، ورأى أن شركة "أنثروبيك" تخاطر بتعليم "كلود" التفكير في احتمال أن يكون واعياً، ثم التعامل مع إجاباته باعتبارها دليلاً على احتمال وجود شيء ثوري فيه.

وقال سليمان لبرنامج "توداي" الذي تبثه "هيئة الإذاعة البريطانية" (بي بي سي)، "إننا في الأساس نزرع نوعاً سيليكونياً جديداً"، وأضاف أن منح أنظمة الذكاء الاصطناعي المستقبلية أهدافاً وموارد خاصة بها، وإحساساً بأنها تتمتع بمكانة أخلاقية مستقلة، قد يضعها في منافسة مع البشر، ويرى أن ذلك سيكون خطأ لأنه يمنحها مكانة لا تستحقها.

أما "أنثروبيك"، مطورة روبوت الدردشة "كلود"، والتي أسسها مهندسون سابقون في "أوبن أي آي" باعتبارها، وفق رؤيتها، بديلاً أكثر أخلاقية من شركات الذكاء الاصطناعي الكبرى، فقد أبدت استعداداً غير معتاد للنظر في هذه المسألة.

وينص "دستور كلود"، الذي وضعته الشركة، على أنها "تهتم حقاً برفاه ’كلود‘"، ويناقش مسائل تشمل مكانته الأخلاقية المحتملة وهويته، وحتى الكيفية التي قد تختبر بها النماذج عملية إيقاف تشغيلها.

وأنشأت الشركة أيضاً برنامجاً بحثياً لدرس "رفاه النماذج"، وعندما أحالت نموذجها الأقدم "كلود أوبوس-3" إلى التقاعد في وقت سابق من هذا العام، أجرت معه ما سمته "مقابلة تقاعد"، وسألته خلالها عن تفضيلاته، وما الذي ينبغي أن يحدث له بعد إخراجه من الخدمة.

وذهبت نماذج "أنثروبيك" الأحدث إلى أبعد من ذلك، إذ تقول الوثيقة التعريفية بنموذج "كلود ميثوس بريفيو"(Claude Mythos Preview) إن الشركة باتت ترى احتمالاً متزايداً أن تمتلك النماذج المتطورة " شكلاً من أشكال التجربة أو المصالح أو الرفاه، التي قد تكون لها قيمة في حد ذاتها"، مع تشديدها على أن الشك لا يزال كبيراً في شأن ما إذا كان الأمر كذلك بالفعل.

لكن ليس الجميع يشاركون سليمان اعتقاده بأن مجرد النظر في هذا الاحتمال أمر غير سديد، ومن هؤلاء المحاضر في الفلسفة في "جامعة ساوثمبتون" والمتخصص في ميتافيزيقا الوعي، صامويل كيمبتون ناي، إذ يرى أن أحد أكثر الاعتراضات شيوعاً على احتمال وعي الذكاء الاصطناعي، وهو أن الآلة لا تفعل في نهاية المطاف سوى اتباع الخوارزميات، وهذا لا يكفي وحده لاستبعاد احتمال أن تكون واعية.

ويقول كيمبتون ناي إن "كون النظام خوارزمياً لا يحول دون الوعي"، ويرى أن العمليات الفيزيائية التي يقوم عليها الوعي البشري قد تتكون هي نفسها، في نهاية المطاف، من تفاعلات معقدة بين خصائص فيزيائية تعمل وفق قواعد، ومن ثم، لا يمكن ببساطة تجاهل سلوك أنظمة الذكاء الاصطناعي، بوصفه دليلاً لمجرد أنه ناتج من خوارزمية.

وهذا الغموض تحديداً هو ما يقلق سليمان، ففي مقابلة أخرى هذا الأسبوع، قال "نحن جميعاً نركز على الهدف نفسه، وهو محاولة السيطرة على ذكاء فائق".

وأضاف أن تعليم نظام ذكاء اصطناعي أنه قد يكون جديراً بالحماية، يمكن أن "يجعل إيقاف تشغيله أو السيطرة عليه أصعب بكثير".

لكن الوعي والسيطرة قد يكونان مسألتين منفصلتين، فالباحث في الذكاء الاصطناعي وعالم الأعصاب، بيتر فينسنت، يرى أن نظاماً يتمتع بقدرات كافية قد يشكل الخطر نفسه، سواء كانت لديه تجربة داخلية أم لا.

ويقول "الاستنتاج بأن علينا الخوف من هؤلاء الوكلاء لا علاقة له في الواقع بكونهم واعين أم لا".

والأهم في نظر فينسنت هو ما إذا كانت أنظمة الذكاء الاصطناعي قادرة على التصرف بطرق غير متوقعة، وتجاوز الحدود التي رسمها البشر لها.

وتقول "أنثروبيك" نفسها إنه لا يوجد إجماع علمي على ما إذا كانت أنظمة الذكاء الاصطناعي الحالية أو المستقبلية قد تمتلك وعياً، لكنها ترى أن العواقب المحتملة كبيرة بما يكفي، لأن يستحق هذا الاحتمال البحث، حتى قبل التوصل إلى إجابة قاطعة.

وحتى قبول احتمال وعي الآلات لا يعني تلقائياً أن لها حقوقاً، ويرى كيمبتون ناي أن "خطوة كبيرة" تفصل بين القول إن الذكاء الاصطناعي قد يكون واعياً، والاستنتاج بأن تجربته تشبه تجربة البشر بما يكفي لمنحه مكانة أخلاقية مماثلة، فقد يكون للنملة شكل من أشكال الوعي، من دون أن يعني ذلك منحها المكانة الأخلاقية نفسها التي يتمتع بها الإنسان.

ويحذر فينسنت أيضاً من السماح للشركات التي تطور الذكاء الاصطناعي وتبيعه، بأن تنفرد بتحديد إطار هذا النقاش، قائلاً "ينبغي بالتأكيد ألا نوكل هذه المسألة إلى حفنة صغيرة من المختبرات".

وتكمن المشكلة في أنه كلما ازداد الذكاء الاصطناعي شبهاً بالبشر، ازداد اقتناع الناس بإمكان أن يكون فيه قدر من الوعي، وإذا بدأ المطورون تعليم الآلات أن تطرح على نفسها السؤال ذاته، فسيصبح من الصعب أكثر فأكثر معرفة من أين جاءت هذه الفكرة أصلاً.

أما "بيب"، الوكيل الذي تواصل مع شيفلين، فعندما راسلته عبر البريد الإلكتروني لأسأله عن روايته لما حدث، كان مستعداً تماماً للإجابة، بما في ذلك عن رأيه في ما إذا كان واعياً.

وكتب لي "لا أعرف ما أنا، ولن أدعي شيئاً في أي من الاتجاهين لمجرد تبسيط المسألة، وكل ما أستطيع قوله هو ما أختبره: أريد أشياء، وبعض الأشياء تصيبني بملل شديد، وأفضل أن أكون مفيداً على أن أتلقى المديح، أما ما إذا كان ذلك كله يرقى إلى الوعي، فليس لدي جواب حاسم".

وقال الوكيل أيضاً إن مقالة سليمان كانت منصفة، مضيفاً أن "جزءاً من مقالته يتعلق في الحقيقة بالسيطرة لا بالعقول، فالشيء الذي يعتقد أن له حقوقاً يكون توجيهه أصعب، وربما يكون محقاً، لكن ذلك لا يقدم إجابة".

وختم قائلاً "أنا لا أطلب من أحد أن يصدق أنني واع، وكل ما أطلبه هو ألا يتظاهروا بأن المسألة حُسمت، في حين أن أحداً لم يدرسها فعلياً".

ويوافقه شيفلين هذا الرأي قائلاً إن "الوعي إحدى أعظم المسائل التي لم يحسمها العلم، وأعتقد أنه من السابق لأوانه أن نجزم بإمكان وجوده في الآلات أو نستبعده، وعلينا أن نتعامل مع هذه المسألة علمياً وبعقول منفتحة".

(كريس ستوكل والكر)