إذا قام أي شخص ببنائه، فسيموت الجميع: لماذا سيقتلنا الذكاء الاصطناعي الخارق جميعًا

INSTANT NEW YORK TIMES BESTSELLER | إن التدافع لإنشاء ذكاء اصطناعي خارق قد وضعنا على طريق الانقراض، ولكن لم يفت الأوان بعد لتغيير المسار، كما أوضح اثنان من أوائل الباحثين في هذا المجال في هذه الدعوة الواضحة للبشرية. "قد يثبت أنه الكتاب الأكثر أهمية في عصرنا." - تيم أوربان، انتظر ولكن لماذا في عام 2023، وقع المئات من الشخصيات البارزة في مجال الذكاء الاصطناعي على رسالة مفتوحة تحذر من أن الذكاء الاصطناعي يشكل خطرًا جسيمًا لانقراض الإنسان. ومنذ ذلك الحين، اشتد سباق الذكاء الاصطناعي. وتسارع الشركات والدول إلى بناء آلات ستكون أكثر ذكاءً من أي شخص. والعالم غير مستعد على الإطلاق لما سيأتي بعد ذلك. على مدار عقود من الزمن، قام اثنان من الموقعين على تلك الرسالة ــ إليعازر يودكوفسكي ونيت سواريس ــ بدراسة الكيفية التي قد تفكر بها الكائنات الذكية الأكثر ذكاءً من البشر، وتتصرف، وتسعى إلى تحقيق أهدافها. تشير أبحاثهم إلى أن الذكاء الاصطناعي الذكي بدرجة كافية سوف يطور أهدافًا خاصة به مما يضعه في صراع معنا، وأنه إذا وصل الأمر إلى الصراع، فإن الذكاء الاصطناعي الفائق سوف يسحقنا. المسابقة لن تكون قريبة حتى. كيف يمكن لآلة الذكاء الفائق أن تمحو جنسنا البشري بأكمله؟ لماذا تريد ذلك؟ هل يريد أي شيء على الإطلاق؟ في هذا الكتاب العاجل، يستعرض يودكوفسكي وسواريس النظرية والأدلة، ويقدمان سيناريو واحد محتمل للانقراض، ويشرحان ما قد يتطلبه بقاء البشرية على قيد الحياة. إن العالم يتسابق لبناء شيء جديد حقاً تحت الشمس. وإذا بناه أحد، يموت الجميع. "أفضل شرح بسيط وبسيط لمشكلة مخاطر الذكاء الاصطناعي قرأته على الإطلاق." - يشان وونغ، الرئيس التنفيذي السابق لشركة Reddit