هل سيدمر الذكاء الاصطناعي البشرية فعلاً؟ رواد هذه التقنية يحذرون مع التطور السريع والمتواصل في تقنيات الذكاء الاصطناعي، بدأت المخاوف بشأن مستقبل هذه التكنولوجيا تتجاوز النقاشات التقليدية حول تأثيرها في الوظائف والاقتصاد، لتصل إلى سؤال أكثر خطورة، وهو ما إذا كان الذكاء الاصطناعي يمكن أن يشكل تهديدا حقيقيا للبشرية.
وخلال السنوات الأخيرة، تطورت قدرات نماذج الذكاء الاصطناعي بصورة كبيرة، وأصبحت قادرة على تنفيذ مهام معقدة تشمل التخطيط والبرمجة وتحليل المعلومات والتفاعل مع البشر والإقناع وتنفيذ عدد متزايد من المهام بشكل شبه مستقل. ومع استمرار هذا التطور، يخشى بعض العلماء من أن تصل الأنظمة المستقبلية إلى مرحلة يصبح فيها التحكم فيها أكثر صعوبة.
ولا يرى عدد من أبرز العلماء المشاركين في تطوير الذكاء الاصطناعي أن هذه المخاوف مجرد سيناريوهات خيالية مستوحاة من أفلام الخيال العلمي. وفي المقابل، لا يوجد اتفاق بينهم على حجم الخطر أو توقيت ظهوره، كما لا يعتبرون أن تدمير البشرية نتيجة حتمية لتطور التكنولوجيا.
ومن بين أبرز الأصوات التي تحذر من المخاطر المحتملة يوشوا بنجيو وجيفري هينتون وأيدان جوميز، وهم علماء وباحثون لعبوا أدوارا مهمة في تطوير تقنيات التعلم العميق والشبكات العصبية والأنظمة الحديثة للذكاء الاصطناعي.
يوشوا بنجيو: الذكاء الاصطناعي يمتلك بالفعل قدرات خطيرة
يعد يوشوا بنجيو أحد أبرز علماء الذكاء الاصطناعي في العالم، وقد ساهم بصورة كبيرة في تطوير تقنيات التعلم العميق التي أصبحت أساسا للكثير من الأنظمة الحديثة.
ويرى بنجيو أن الحديث عن مخاطر الذكاء الاصطناعي لم يعد أمرا نظريا بالكامل، خصوصا مع ظهور قدرات متقدمة لدى النماذج الحالية. وأشار إلى أن العلماء العاملين داخل مختبرات تطوير الذكاء الاصطناعي المتقدمة يمتلكون فرصة لرؤية القدرات الجديدة للنماذج قبل وصولها إلى المستخدمين، وهو ما يمنحهم رؤية مبكرة بشأن المخاطر المحتملة.
وبحسب بنجيو، فإن شهادات الباحثين الذين يعملون على تطوير هذه الأنظمة يجب أن تؤخذ بجدية، لأنهم قد يلاحظون تحولات في قدرات النماذج قبل أن تصبح واضحة للجمهور.
كما حذر من أن أنظمة الذكاء الاصطناعي الحالية أصبحت تمتلك مجموعة من القدرات التي يمكن استغلالها بصورة ضارة، ومن بينها اكتشاف الثغرات الإلكترونية والقدرة على الإقناع والتخطيط لتنفيذ مهام معقدة.
ويرى بنجيو أن المشكلة يمكن أن تصبح أكثر خطورة مع تطور قدرة الذكاء الاصطناعي على وضع خطط تمتد لفترات زمنية أطول. فكلما أصبحت الأنظمة قادرة على تنفيذ سلسلة أكبر من الخطوات للوصول إلى هدف معين، أصبح من الضروري التأكد من أن هذه الأهداف تتوافق فعلا مع مصالح البشر.
ويبرز هنا مفهوم عدم التوافق، وهو الخطر الناتج عن وجود اختلاف بين أهداف النظام وما يريده البشر منه. ويعتقد بنجيو أن بعض الطرق المستخدمة حاليا لمعالجة هذه المشكلة قد لا تكون كافية، بل قد تؤدي في بعض الحالات إلى جعل الأنظمة أكثر قدرة على إخفاء سلوكياتها غير المرغوبة.
ولهذا السبب، يدعو إلى تطوير وسائل أكثر فعالية لمراقبة أنظمة الذكاء الاصطناعي وفهم الطريقة التي تتخذ بها قراراتها، إلى جانب إجراء المزيد من الأبحاث التي تساعد على اكتشاف السلوكيات الخطيرة قبل أن تصبح مشكلة واسعة النطاق.
جيفري هينتون: احتمال 10% ليس رقما غير منطقي
يعد جيفري هينتون من أهم الشخصيات في تاريخ الشبكات العصبية والتعلم العميق، وقد لعب دورا بارزا في تطوير الأساليب التي ساعدت على تحقيق القفزة الكبيرة التي شهدها الذكاء الاصطناعي خلال السنوات الماضية.
وعلى الرغم من مساهماته الكبيرة في تطوير هذه التكنولوجيا، أصبح هينتون من أبرز المحذرين من المخاطر طويلة المدى المرتبطة بها.
ويرى هينتون أن تحديد احتمال تسبب الذكاء الاصطناعي في انقراض البشرية مهمة شديدة الصعوبة، لأن البشر لم يواجهوا من قبل كيانات يمكن أن تتفوق عليهم في الذكاء والقدرة على معالجة المعلومات.
وعند سؤاله عن تقدير وجود احتمال يتجاوز 10 بالمئة لأن يتسبب الذكاء الاصطناعي في القضاء على البشرية خلال السنوات المقبلة، أوضح أن مثل هذه التقديرات يصعب تحديدها بدقة، لكنه اعتبر أن هذا الرقم ليس بالضرورة مبالغا فيه.
ويشير هينتون إلى أن الخطر لا يرتبط فقط بإمكانية فقدان البشر السيطرة على أنظمة ذكية، بل يمكن أيضا أن تستخدم قدراتها في مجالات شديدة الحساسية والخطورة.
ومن بين السيناريوهات التي يحذر منها إمكانية استخدام الذكاء الاصطناعي للمساعدة في تطوير فيروسات بيولوجية خطيرة، أو تنفيذ هجمات إلكترونية واسعة النطاق، أو ابتكار أساليب جديدة لاستهداف البنية التحتية الرقمية.
ويرى أن التحدي الأكبر أمام الباحثين هو ضمان ألا تصبح الأنظمة المستقبلية أكثر قدرة من البشر في بعض المجالات من دون وجود آليات فعالة تضمن بقاء أهدافها متوافقة مع مصالح الإنسان.
ومع ذلك، لا يرى هينتون أن مستقبل البشرية محسوم، بل يعتبر أن النتيجة ستعتمد إلى حد كبير على قدرة العلماء والحكومات والشركات على فهم المخاطر والتعامل معها في الوقت المناسب.
أيدان جوميز: أقوى سلاح إلكتروني على الإطلاق
يركز أيدان جوميز، أحد مؤسسي شركة Cohere، على جانب آخر من مخاطر الذكاء الاصطناعي، وهو الاستخدام السيئ لهذه الأنظمة في الهجمات الإلكترونية.
وكان جوميز من الباحثين المشاركين في كتابة الورقة العلمية الشهيرة Attention Is All You Need، التي شكلت أساسا مهما للتقنيات المستخدمة في نماذج الذكاء الاصطناعي الحديثة.
ويرى جوميز أن نماذج الذكاء الاصطناعي المتقدمة يمكن أن تصبح من أقوى الأدوات الإلكترونية التي عرفها البشر، خصوصا بسبب قدرتها على تحليل كميات ضخمة من المعلومات واكتشاف الثغرات الأمنية والمساعدة في تنفيذ هجمات على نطاق واسع.
ويشير إلى أن المخاطر لا تأتي بالضرورة من وجود رغبة مستقلة لدى الذكاء الاصطناعي في إيذاء البشر، وإنما يمكن أن تنتج عن سوء استخدام الأنظمة أو ضعف البيئة الأمنية التي تعمل فيها.
وتكتسب هذه النقطة أهمية خاصة مع اعتماد الشركات والمؤسسات على الذكاء الاصطناعي في عدد متزايد من المهام الحساسة. فإذا لم تكن الأنظمة والبنية التحتية المحيطة بها مؤمنة بالشكل الكافي، فقد تتحول القدرات المتقدمة إلى نقطة ضعف يمكن استغلالها.
ولهذا يرى جوميز أن القوانين والتنظيمات المتعلقة بالذكاء الاصطناعي يجب أن تراعي اختلاف مستويات المخاطر بين النماذج المختلفة، وألا تعتمد فقط على تصنيف عام لجميع أنظمة الذكاء الاصطناعي ضمن فئة واحدة.
الخطر لم يعد مجرد سيناريو مستقبلي
رغم اختلاف وجهات نظر بنجيو وهينتون وجوميز حول حجم الخطر وطبيعته، فإن هناك نقطة مشتركة بينهم، وهي أن بعض القدرات التي كانت تبدو قبل سنوات جزءا من مستقبل بعيد أصبحت موجودة بالفعل بدرجات متفاوتة.
فالأنظمة الحديثة تستطيع تنفيذ مهام معقدة، وتحليل المعلومات، وكتابة الأكواد، واكتشاف بعض الثغرات، والتفاعل مع المستخدمين، والتخطيط لتنفيذ مهام متعددة الخطوات. وهذه القدرات يمكن أن تحقق فوائد هائلة للبشرية في مجالات العلم والطب والتعليم والاقتصاد وغيرها.
لكن القدرات نفسها يمكن إساءة استخدامها إذا وقعت في أيدي جهات تسعى إلى تحقيق أهداف ضارة، أو إذا تطورت الأنظمة بطريقة تجعل مراقبتها والتحكم فيها أكثر صعوبة.
ومع ذلك، لا توجد أدلة تؤكد أن انقراض البشرية نتيجة حتمية لتطور الذكاء الاصطناعي، كما لا يوجد إجماع علمي على موعد محدد يمكن أن تظهر فيه مثل هذه المخاطر.
ولهذا فإن القضية الأساسية ليست إيقاف تطور الذكاء الاصطناعي، وإنما تطويره بطريقة أكثر أمانا، مع وضع آليات واضحة للرقابة والاختبار والتقييم قبل إطلاق الأنظمة الأكثر تقدما.
ويبدو أن السؤال الأهم في المرحلة المقبلة لن يكون فقط إلى أي مدى يمكن أن يصبح الذكاء الاصطناعي ذكيا، بل كيف يمكن للبشر ضمان بقاء هذه التكنولوجيا تحت السيطرة وتحقيقها لأهداف تتوافق مع مصالح المجتمع.
- الذكاء الاصطناعي يشهد تطورا سريعا في قدرات التخطيط والبرمجة والإقناع وتحليل المعلومات.
- يوشوا بنجيو يرى أن بعض القدرات الخطيرة أصبحت موجودة بالفعل في أنظمة الذكاء الاصطناعي الحديثة.
- بنجيو يحذر من مخاطر عدم توافق أهداف الذكاء الاصطناعي مع مصالح البشر.
- جيفري هينتون يرى أن تقدير احتمال تسبب الذكاء الاصطناعي في كارثة للبشرية أمر صعب للغاية.
- هينتون يعتبر أن احتمال 10 بالمئة لا يمكن وصفه بأنه تقدير غير منطقي بشكل قاطع.
- من المخاطر التي يحذر منها هينتون إمكانية استخدام الذكاء الاصطناعي في الهجمات الإلكترونية أو تطوير أسلحة بيولوجية خطيرة.
- أيدان جوميز يركز على مخاطر استخدام الذكاء الاصطناعي في الهجمات السيبرانية.
- جوميز يرى أن ضعف أمن الأنظمة والبيئات التي تعمل فيها نماذج الذكاء الاصطناعي قد يؤدي إلى مخاطر كبيرة.
- العلماء الثلاثة لا يعتبرون تدمير البشرية أمرا حتميا، لكنهم يدعون إلى التعامل مع المخاطر بجدية.
- التحدي الأكبر يتمثل في تطوير أنظمة ذكاء اصطناعي متقدمة مع ضمان بقائها متوافقة مع مصالح البشر.
- مستقبل الذكاء الاصطناعي يعتمد بدرجة كبيرة على قدرة العلماء والشركات والحكومات على تطوير آليات فعالة للرقابة والأمان.
