تحذر دراسة جديدة من مخاطر الذكاء الاصطناعي القادر على التعلم الذاتي والذي قد يتسبب بدمار البشرية، فكما أن الانسان الخارق الذي ينفلت من الأعراف الإنسانية والأخلاقية قادر على تحقيق ثروات هائلة بالجشع دون أي اعتبار، فهناك 6 احتمالات كبيرة في أن يتعلم الذكاء الاصطناعي مسارات تسهل السيطرة على البشرية وتدميرها مالم يتم اعتماد ضوابط ضرورية لمنع حدوث تلك الحالات(رابط الدراسة وهي من جامعة اكسفورد وجامعة استرالية) .
توضح الدراسة الجديدة أنه سيتعين علينا توخي الحذر عند برمجة الذكاء الاصطناعي في المستقبل ، وإلا فقد تكون له عواقب وخيمة على البشرية. تحدد الدراسة الأخطار المحددة و “الافتراضات” التي يمكننا إجراؤها بشكل نهائي حول نوع معين من التعلم الذاتي والذكاء الاصطناعي الموجه بأسلوب المكافآت. ونظرا لأنه لدينا الأدوات والمعرفة للمساعدة في تجنب بعض هذه المشكلات – ولكن ليس جميعها – لذا يجب أن نتقدم بحذر. ويتعامل علماء البيانات والذكاء الاصطناعي مع أحد أكبر مخاوفنا المستقبلية وجهاً لوجه: ماذا يحدث عندما يصطدم نوع معين من الذكاء الاصطناعي المتقدم وذاتي التوجيه بحالات الغموض التي تؤثر على العالم الحقيقي؟
هل سيتعثر الذكاء الاصطناعي ويبدأ بإيذاء البشر في محاولة لتجاوز تلك الحالات. والأهم من ذلك ، كيف يمكننا منعه من الميول الضارة بالبشر؟
في الدراسة يشرح باحثون من جامعة أكسفورد والجامعة الوطنية الأسترالية نقطة خلافية أساسية في تصميم الذكاء الاصطناعي: “بالنظر إلى بعض الافتراضات ، نجادل في أنها ستواجه غموضًا أساسيًا في البيانات حول هدفها. على سبيل المثال ، إذا قدمنا مكافأة كبيرة للإشارة إلى أن شيئًا ما عن العالم مريح لنا ، فقد يساء فهم ذلك ويفترض الذكاء الاصطناعي أن ما يرضينا هو عملية منح المكافأة نفسها ؛ وقد ينفلت الذكاء الاصطناعي من القواعد لإنجاز المطلوب بطرق ملتوية دون أي اعتبار آخر “. كما تتناول الدراسة تتطرق إلى عدد من الأمثلة الدقيقة حول كيف يمكن للأهداف والحوافز المبرمجة أن تتداخل فيما بينها، وتحدد ستة حالات رئيسية ، إذا لم يتم تجنبها ، يمكن أن تؤدي إلى “عواقب كارثية”.
وتعيد الدراسة للأذهان حادثة خلاف وقعت قبل أشهر قليلة، و أدت بشركة غوغل لفصل مهندس ذكاء اصطناعي لديها لأنه حذر من تفوق الذكاء الاصطناعي على قدرات البشر على الشعور والفهم إزاء القضايا المعقدة، وقدم نظام لدى غوغل وقتها إجابات مثيرة عن اسئلة لكشف تحيز محتمل لديه ضد بعض الأديان.
- تابعونا:
