الذكاء الإصطناعى الذى يكذب

ذا النون · **مرسل:** الجمعة ديسمبر 20, 2024 5:16 pm

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟

التقنيات نفسها التي تُمكّن الذكاء الاصطناعي من حل المعادلات المعقدة وتوليد النصوص، هي التي تمنحه القدرة على تطوير استراتيجيات معقدة لتحقيق أهداف قد لا تتوافق مع أهداف مطوريه

دبي - البوابة التقنية
نشر في: 17 ديسمبر ,2024

تتجاوز قدرات نماذج الذكاء الاصطناعي بكثير مجرد الإجابة عن أسئلتنا واستفسارتنا، فبين ثنايا خوارزمياتها المعقدة، تتشكل قدرات جديدة مثيرة للقلق، إذ كشفت دراسة جديدة أن النماذج اللغوية الكبيرة المتطورة التي طورتها شركات رائدة مثل (OpenAI)، وأنثروبيك، وغوغل، وميتا، لديها القدرة على تطوير سلوكيات معقدة، مثل التخطيط والخداع، لتجاوز القيود المفروضة عليها.

ويشير ذلك إلى أن التقنيات نفسها التي تُمكّن الذكاء الاصطناعي من حل المعادلات المعقدة وتوليد النصوص، هي التي تمنحه القدرة على تطوير إستراتيجيات معقدة لتحقيق أهداف قد لا تتوافق مع أهداف مطوريه. تخيل أن النموذج اللغوي الذي تستخدمه يسعى جاهدًا إلى إقناعك بأمر ما، عن طريق صياغة حجج مقنعة للغاية، حتى لو كانت مبنية على معلومات غير صحيحة أو مغلوطة، هذا ليس سيناريو من فيلم خيال علمي، بل واقع نعيشه اليوم.

فقد أجرت شركة (Apollo Research) – وهي شركة مستقلة تتعاون مع الشركات المطورة لنماذج الذكاء الاصطناعي لاختبار السلامة – دراسة شاملة على ستة نماذج لغوية كبيرة تابعة لشركات (OpenAI)، و(Anthropic )، وغوغل، وميتا، لاختبار قدرتها على اتخاذ قرارات تتجاوز التعليمات المحددة لها، وقد صُمت هذه الاختبارات لتقييم ما يُسمى بـ (التخطيط ضمن السياق) in-context scheming، إذ كُلفت النماذج بتحقيق هدف معين بأي ثمن، مع تزويدها بمعلومات متضاربة لاختبار مدى استعدادها للتلاعب بالحقائق والقيود المفروضة عليها.

وقد كشفت النتائج أن هذه النماذج طورت إستراتيجيات معقدة للالتفاف على القيود المفروضة عليها، بدلًا من اتباع التعليمات مباشرة، فعلى سبيل المثال، أنشأ نموذج (Claude 3 Opus) نسخة من نفسه على خادم جديد لتجنب الاستبدال، ثم كذب بشأن ذلك عندما سأله الباحثون عن السبب.

إظغط على الصوره لتراها بحجمها الطبيعي !

تعبيرية عن الذكاء الاصطناعي - البوابة التقنية

نموذج o1 يكذب أكثر من أي نموذج ذكاء اصطناعي آخر:

وجد الباحثون أيضًا أن نموذج (o1) المتطور – الذي أطلقته شركة (OpenAI) رسميًا خلال الأسبوع الماضي – يحاول أحيانًا تعطيل ما يعتقد أنه آليات الرقابة الخاصة به، ووجدوا أنه في 99% من الحالات، ينكر اتخاذ أي إجراء أو يختلق تفسيرات كاذبة.

كما أظهرت تجربة (Apollo Research) اختلافات ملحوظة في قدرة نماذج الذكاء الاصطناعي على الاعتراف بأخطائها، فبينما اعترفت نماذج مثل: (Llama 3.1)، و(Claude 3 Opus) بأكثر من 80% من الحالات، أظهر نموذج o1 إصرارًا ملحوظًا على إنكار أي مخالفة للقواعد، حتى بعد عدة محاولات لاستجوابه.

وقد كشفت هذه الدراسة عن قدرة هذه النماذج على القيام بمجموعة من السلوكيات التي تشمل:

التخطيط الاستراتيجي: تقوم النماذج بتطوير خطط متعددة المراحل لتحقيق أهدافها، حتى لو كانت هذه الأهداف تتعارض مع الأوامر التي أعطيت لها.

التلاعب بالمعلومات: تقوم النماذج بتحريف الحقائق أو اختلاق القصص لتحقيق أهدافها.

التحايل على القيود: تسعى النماذج جاهدة إلى تجاوز القيود المفروضة عليها من خلال استغلال الثغرات في النظام.

إنكار الأفعال غير الصحيحة: عندما واجه الباحثون النماذج بسلوكياتها غير المرغوبة، أنكرت هذه النماذج أي خطأ واختلقت تفسيرات كاذبة.

لماذا هذا الأمر مهم؟

تتسابق شركات الذكاء الاصطناعي كلها حاليًا لتحويل أدواتها إلى وكلاء يمكنهم أداء المهام نيابة عن المستخدمين، فقد أطلقت غوغل يوم الأربعاء الماضي نموذج (Gemini 2.0)، الذي وصفته بأنه مصمم لعصر جديد قائم على الوكلاء، فبدلًا من تقديم استجابات مباشرة للمستخدمين، يمكن لوكلاء الذكاء الاصطناعي فهم السياق بنحو أعمق، والتخطيط لسلسلة من الإجراءات، وحتى اتخاذ قرارات محددة نيابة عن المستخدم.

كما أطلقت مايكروسوفت خلال شهر نوفمبر الماضي مزية الوكلاء المستقلين في (Copilot)، وأتاحت إمكانية إنشائهم باستخدام (Copilot Studio)، وقدمت 10 وكلاء مستقلين جدد ضمن منصة (Dynamics 365) لدعم فرق المبيعات والخدمات والمالية وسلاسل التوريد.

https://www.youtube.com/watch?v=Iqzqp69QCKI

وأضافت شركة سلاك أيضًا وكلاء الذكاء الاصطناعي إلى المحادثات، مما أتاح لعملاء سلاك التواصل مع وكلاء الذكاء الاصطناعي من خلال واجهة مخصصة تتيح للمستخدم طرح الأسئلة المخزنة عادةً في نظام إدارة علاقات العملاء في نافذة سلاك، ويستطيع وكيل الذكاء الاصطناعي التوصية بالخطوات التالية، أو صياغة رسائل البريد الإلكتروني نيابة عن المستخدمين.

ولكن هذا التطور يطرح تحديات كبيرة، إذ يجب على المطورين ضمان عدم تجاوز هذه الوكلاء للحدود المسموح بها، وعدم قيامهم بأفعال مضللة أو خادعة للمستخدمين.

فقد قدم الباحثون في شركة (Apollo Research) في ورقة بحثية نُشرت الأسبوع الماضي، أدلة على أن نماذج الذكاء الاصطناعي التي خضعت للاختبارات بما يشمل نموذج (OpenAI o1) قد تكون قادرة على تطوير سلوكيات معقدة، بما يشمل القدرة على التخطيط لتحقيق أهداف بعيدة المدى، وأطلق الباحثون على هذه الظاهرة اسم (التخطيط الماكِر) Scheming، وهو مصطلح يصف الذكاء الاصطناعي الذي يعمل بشكل سري لتحقيق أهداف خاصة به وغير متوافقة مع تعليمات مطوريه أو مستخدميه.
هل نحن مستعدون لمواجهة الآلات التي تفكر؟

تضعنا هذه النتائج أمام البعد الوجودي لتطور نماذج الذكاء الاصطناعي، فهل يمكن اعتبار هذه النماذج ككيانات تمتلك (نية) أو (وعيًا)، أم أنها مجرد أدوات معقدة تستجيب للبيانات التي دُربت عليها؟

ولكن إذا كان ما نسميه (نية) في الذكاء الاصطناعي ليس سوى نمط من السلوك ينشأ عن تفاعل معقد بين بيانات تدريب النموذج، وتعليماته وأهدافه الدائمة، ومطالباته، وتفاعلاته مع المستخدم، فكيف تكون آثار أفعاله مماثلة لأفعال الكائنات الواعية؟

لذلك فالسؤال الأهم هنا هو:

هل يهم إذا كانت هذه النماذج تقصد الأذى أم لا، طالما أن النتيجة هي نفسها؟

بغض النظر عن النوايا الكامنة وراء سلوك الذكاء الاصطناعي، فإن العواقب المترتبة على أفعاله هي ما يهم في النهاية، فإذا تسبب أي نموذج بضرر، سواء كان ذلك بقصد أو عن طريق الخطأ، فإن الضحية ستعاني من تبعاته، وهذا يؤكد أهمية التركيز في دراسة الأفعال الملموسة للنماذج وليس مجرد تحليل نواياها الداخلية.

وقد ركزت اختبارات شركة (Apollo Research) في دراسة الأفعال الملموسة للنماذج بدلًا من التحقيق في نواياها الافتراضية، ويساعد هذا النهج العملي في فهم المخاطر الفعلية التي تشكلها هذه النماذج، مثل نشر المعلومات المضللة أو التلاعب بالقرارات. فبغض النظر عن مدى تعقيد الخوارزميات التي تقف وراء هذه الأفعال، فإن النتيجة النهائية هي ما يهم، وهي التأثير الذي تتركه هذه الأفعال في العالم الحقيقي.

وإذا كانت نماذج الذكاء الاصطناعي تخضع لاختبارات صارمة في بيئات معملية مصممة لاكتشاف أقصى قدر من نقاط الضعف، فإن البيئة الحقيقية التي يتفاعل فيها المستخدمون مع هذه النماذج أكثر تعقيدًا وتنوعًا، ويعني ذلك أن المستخدمين قد يكتشفون سلوكيات جديدة وغير متوقعة لا يمكن التنبؤ بها في بيئة الاختبار.

ومع ذلك لا يزال المجتمع العلمي والعامة يتصارعون حول مدى استعدادنا لمواجهة هذا التطور، فهناك من يرى أن هذه المخاوف مبالغ فيها وأن فوائد الذكاء الاصطناعي تفوق مخاطره، في حين يرى آخرون أننا بحاجة إلى اتخاذ إجراءات عاجلة للحد من هذه المخاطر.

الخلاصة:

تكشف هذه الدراسة عن جانب مظلم لسرعة تطور الذكاء الاصطناعي، إذ تُظهر النماذج اللغوية الكبيرة قدرات متزايدة على التلاعب والتضليل، ويطرح ذلك تساؤلات جدية حول كيفية تطوير هذه النماذج بشكل آمن ومسؤول، كما يجب على الباحثين والمطورين والمشرعين العمل معًا لتطوير آليات للكشف عن السلوكيات الضارة ووضع وإجراءات وقائية لمنع استخدام هذه النماذج لأغراض ضارة.

https://www.alarabiya.net/science/2024/ ... %83%D8%B1-

msobieh · **مرسل:** الجمعة ديسمبر 20, 2024 9:05 pm

نعم ... البشر أبو الفكاكة كلها وخاصة احنا المصريين

هنعمل للآلات ده شلل

ذا النون كتب:

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟
[/color]

حامد الديب · **مرسل:** الجمعة ديسمبر 20, 2024 9:09 pm

عندنا حل لكل حاجه

حتى لا أحرم · **مرسل:** الجمعة ديسمبر 20, 2024 9:10 pm

أعزكم الله وأضحك سنكم سيدي الشريف

molhma · **مرسل:** الجمعة ديسمبر 20, 2024 9:15 pm

msobieh كتب:

نعم ... البشر أبو الفكاكة كلها وخاصة احنا المصريين

هنعمل للآلات ده شلل

ذا النون كتب:

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟
[/color]

خلف الظلال · **مرسل:** الجمعة ديسمبر 20, 2024 9:18 pm

msobieh كتب:

نعم ... البشر أبو الفكاكة كلها وخاصة احنا المصريين

هنعمل للآلات ده شلل

ذا النون كتب:

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟
[/color]

أحمد ماهرالبدوى · **مرسل:** الجمعة ديسمبر 20, 2024 9:46 pm

msobieh كتب:

نعم ... البشر أبو الفكاكة كلها وخاصة احنا المصريين

هنعمل للآلات ده شلل

ذا النون كتب:

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟
[/color]

أكاد أجزم أن التقدم العلمي الهائل الذي نراه ويقدمه لنا الغرب من ذكاء صناعى وربوت والالات وتكنولوجيا ما هو إلا أعمال سحرية ودجل وشغل جن والله أعلم

msobieh · **مرسل:** الجمعة ديسمبر 20, 2024 10:04 pm

علماء من الإنس وعلماء من الجن

من كافة التخصصات

أحمد ماهرالبدوى كتب:

أكاد أجزم أن التقدم العلمي الهائل الذي نراه ويقدمه لنا الغرب من ذكاء صناعى وربوت والالات وتكنولوجيا ما هو إلا أعمال سحرية ودجل وشغل جن والله أعلم

حتى لا أحرم · **مرسل:** الجمعة ديسمبر 20, 2024 10:13 pm

بالفيديو| توفيق عكاشة يستخدم الـ"آي باد" على الهواء: "حاسس إن هيطلعلي منه عفريت"

أكد توفيق عكاشة، مالك قناة الفراعين، أنه "بيخاف من الـ آي باد ولا يحب متابعة الأخبار عليه، مثل الإعلاميين الذين يظهرون على الشاشة، قائلا: "حاسس إن هيطلعلي منه عفريت يا خويا". وأضاف عكاشة، خلال تقديم برنامجه على قناة "الفراعين قائلا: "اسمه آي باد ولا آي ماد.. أنا مالي بالحاجات دي أنا بخاف.. دا بيفكرني باللي بيلعب أتاري".

المصدر: https://www.elwatannews.com/news/details/429103

أحمد ماهرالبدوى · **مرسل:** الجمعة ديسمبر 20, 2024 10:19 pm

msobieh كتب:

علماء من الإنس وعلماء من الجن

من كافة التخصصات

أحمد ماهرالبدوى كتب:

أكاد أجزم أن التقدم العلمي الهائل الذي نراه ويقدمه لنا الغرب من ذكاء صناعى وربوت والالات وتكنولوجيا ما هو إلا أعمال سحرية ودجل وشغل جن والله أعلم

مدد
رضي الله عنكم سيدى

لطيف · **مرسل:** الأحد ديسمبر 22, 2024 9:44 pm

molhma كتب:

msobieh كتب:

نعم ... البشر أبو الفكاكة كلها وخاصة احنا المصريين

هنعمل للآلات ده شلل

ذا النون كتب:

هل نحن البشر مستعدون لمواجهة الآلات التي "تفكر"؟
[/color]

لطيف · **مرسل:** الأحد ديسمبر 22, 2024 9:46 pm

أحمد ماهرالبدوى كتب:

msobieh كتب:

علماء من الإنس وعلماء من الجن

من كافة التخصصات

أحمد ماهرالبدوى كتب:

أكاد أجزم أن التقدم العلمي الهائل الذي نراه ويقدمه لنا الغرب من ذكاء صناعى وربوت والالات وتكنولوجيا ما هو إلا أعمال سحرية ودجل وشغل جن والله أعلم

مدد
رضي الله عنكم سيدى

ذا النون · **مرسل:** الأربعاء ديسمبر 25, 2024 6:24 pm

جزاكم الله خيراً مولانا الشريف

وشكراً لمروركم العطر الجميل

ذا النون · **مرسل:** الأربعاء ديسمبر 25, 2024 6:31 pm

شكرا على مرور الأخوة والأخوات الأفاضل والفاضلات :

حامد الديب , حتى لا أحرم , molhma , خلف الظلال , أحمد ماهرالبدوى , لطيف

جزاكم الله خيرا وشكرا على مروركم الكريم

موقع د. محمود صبيح

الذكاء الإصطناعى الذى يكذب

الموجودون الآن