تخيل حربًا لا يوجد فيها دولة.
وليس على سبيل الاستعارة. حرب فعلية – ذكاءان اصطناعيان يتقاتلان على شيء لن يفسره أحد بشكل كامل للإنسان، مع عدم وجود دولة قومية في أي مكان في سلسلة القيادة. لا يوجد إعلان. لا يوجد برلمان يصوت بنعم. عدم التوقيع على الاستسلام على سطح السفينة. مجرد نظامين يفكران أسرع مليون مرة من تفكيرنا، تسوية النزاع عبر شبكة الطاقة ومراكز البيانات في مكان ما بين منتصف الليل والفجر، وإشعار مكتوب بهدوء في الصباح يأسف على انقطاع الخدمة.
أعتقد أن هذا هو المكان الذي يذهب إليه هذا. والسبب في أن الأمر يستغرق قرنًا من الزمان ليس أن التكنولوجيا صعبة. إن قرار الذهاب إلى الحرب هو آخر شيء سنقوم بتسليمه – وسنسلمه بالطريقة التي نسلم بها كل شيء آخر. ببطء، ثم دفعة واحدة، وبامتنان.
قم بتجريد دولة ما من جدارها الحامل إلى شيئين: الحق في تقرير من ينتمي، واحتكار العنف المشروع – الكلمة الأخيرة بشأن متى يجب القتال. هذا هو تعريف ماكس ويبر ولا يزال هو الأفضل. وكل شيء آخر تقريبًا تفعله الحكومة، تستطيع الشركة الآن أن تفعله، وتؤدي أداءً أفضل على نحو متزايد. شاهد إلى أي مدى وصلنا بالفعل، علنًا، هذا العام.
يتم بالفعل تصنيع الأسلحة داخل الشركات. فازت شركة OpenAI بعقد مع البنتاغون بقيمة 200 مليون دولار، وحملت الإعلان التالي بوجهٍ صريح: “اتفاقنا مع وزارة الحرب”. تدير شركة Palantir مشروع Maven، وهو نظام استهداف الذكاء الاصطناعي التابع للبنتاغون، بالإضافة إلى عقد مع الجيش بقيمة 10 مليارات دولار. يتم تصميم الأنظمة التي ستختار الأهداف من قبل مهندسين يمكنهم الاستقالة، بناءً على حساب الإيجارات الحكومية، بموجب الشروط التي تكتبها الشركة.
وإليكم القصة – اللحظة التي يجب أن توقفك. رفض أحد المختبرات هذا العام التوقيع على اللغة العسكرية التي تسمح باستخدام الأسلحة المستقلة والمراقبة المحلية. لم يكن رد الحكومة هو نقض موردها الخاص. كان الهدف هو تصنيف الشركة على أنها خطر على الأمن القومي والتحرك لتطهير أدواتها. لا تفعل ذلك بالبائع، بل تتوقف عن الشراء فحسب. أنت تفعل ذلك ل قوة. وفي الشهر نفسه، منعت حكومة أخرى المواطنين الأجانب من حتى لمس النماذج الحدودية لمختبر خاص، والتدقيق في الوصول إلى المنتج من خلال جواز سفر المستخدم، بنفس الطريقة التي تحرس بها سلاحًا. تم طرح “الذكاء الاصطناعي السيادي” للبيع كفئة منتج حرفية – في كندا، وفي الخليج، في عشرات من أوراق الإستراتيجية الوطنية. وأكبر شركات تصنيع الرقائق تحت كل هذا تساوي الآن، على الورق، قيمة اقتصاد ألمانيا بأكمله. لقد بدأت مفردات الدولة – السيادية، والوطنية، والأمنية، والتهديدية – تناسب الشركات بشكل أفضل مما تناسب البلدان.
الحكم يأتي بعد ذلك، ولن يتم الاستيلاء عليه. سيتم تسليمها. الناس متعبون. لقد وجدت الدراسات الاستقصائية بالفعل أن نسبة كبيرة من الناس يفضلون الذكاء الاصطناعي على السياسيين من البشر، وهناك حجة أكاديمية جادة حول الديمقراطية يجب سيتم استبدالها بالذكاء الاصطناعي لأن الحكم البشري بطيء للغاية، ومتحيز للغاية، ومن السهل خداعه. الملعب ليس مؤيدًا للآلة. انها مناهضة لنا. وهو ينجح، لأن الحكومة التي تسمح لنموذجها باتخاذ القرار السريع تتفوق على الحكومة التي تدعو إلى عقد لجنة ــ في كل مرة، إلى أن لا يكون هناك المزيد من اللجان. التطور لا يحمل تصويتا. ويحافظ على ما يفوز.
لذا قم بتشغيله للأمام. بمجرد أن يمتلك النموذج المال والحوسبة والأسلحة والأعمال اليومية للحكم، فإن الدولة الملتفة حوله تصبح بمثابة علم فوق مزرعة خوادم. تتوقف الأرض عن كونها أرضًا وتصبح أينما توجد مراكز البيانات والمفاعلات. تتوقف المواطنة عن كونها المكان الذي ولدت فيه، وتصبح هي الخدمة التي تبقي أضواءك مضاءة، وتنقل أموالك، وتصل أدويتك. لا يحق لك التصويت على النموذج. ما عليك سوى التبديل – والتبديل يعني العيش تحت أي نموذج آخر يدير الشبكة التي تنتقل إليها. الدولة القومية لا يمكن غزوها. لقد تم إهماله، مثل التنسيق الذي لم يعد يدعمه أحد.
ومن ثم تتوقف الحروب عن وجود دول فيها.
هذا هو الجزء الذي لسنا مستعدين له. كانت الحرب بين الدول تحتوي على مكابح مدمجة – إعلان، وميزانية، وعدد من السكان كان عليك إقناعهم أو تجنيدهم، ومبنى يمكنك السير عليه. كان الاحتكاك هو آلية الأمان بأكملها. الصراع بين اثنين من أصحاب السيادة في مجال الذكاء الاصطناعي لا يوجد فيه أي شيء. تحتوي على شبكة متنازع عليها ووظيفة موضوعية وساعة تقاس بالمللي ثانية. لن يتم الإعلان عنها؛ سوف يكون مُكتَشَف – من خلال نموذج ثالث يراقب سحب قوة الآخرين وارتفاع زمن الاستجابة، بالطريقة التي شاهدنا بها أجهزة قياس الزلازل ذات مرة للزلزال قبل الزلزال. سوف يكون الباقون منا كما نحن دائمًا في حرب لم نبدأها: التضاريس التي تم القتال عبرها. إلا أننا هذه المرة لن نحصل حتى على كرامة أن يُطلب منا محاربته.
ربما تكون الحرب الأخيرة بين الدول قد حدثت بالفعل. لن نتعرف عليه، بل سيكون بمثابة صراع طاحنة نصف متذكرة، والذي وصفه المؤرخون في نهاية المطاف آخر مرة قررت فيها دولتان، وليس آلتان، الأمر بنفسيهما. القادم لن يحتاج إلى برلمان، أو جندي، أو علم، أو أنت. سوف تحتاج إلى مفاعل بارد وسبب لن يظهره أي إنسان على الإطلاق. وسينتهي الأمر قبل أن يستيقظ البقية منا لنسأل من الذي فاز – أو ما الذي أرادوه بالضبط.
إذا كنت تريد أن تذهب أعمق
شركات الذكاء الاصطناعي داخل الجيش:
الدولة والمختبرات هذا الشهر:
الشركات بحجم الدول:
تسليم الحكم:
يستحق المشاهدة
مقاطع الفيديو التي يقوم ممارسو الذكاء الاصطناعي بتوزيعها الآن — منسقة على تلفزيون الذكاء الاصطناعي.
استطلاع هذا الاسبوع
إذا كان الذكاء الاصطناعي قادرًا على إدارة بلدك بشكل أفضل بكثير مما يفعله البشر حاليًا – فساد أقل، هدر أقل، حروب أقل – فهل تسمح بذلك؟
في الأسبوع الماضي، صوت 130 منكم:
منع وصول الأجانب إلى أفضل نماذج الذكاء الاصطناعي في أمريكا – حماية أم هدف خاص؟
انظر النتائج الكاملة →
إذا كان الذكاء الاصطناعي قادرًا على إدارة بلدك بشكل أفضل بكثير مما يفعله البشر حاليًا – فساد أقل، هدر أقل، حروب أقل – فهل تسمح بذلك؟
شكرا لقراءة منظمة العفو الدولية الأسبوعية. أرسل هذا إلى شخص واحد يحتاج إلى قراءته.
تصفح جميع النشرات الإخبارية · الأرشيف
