The Superintelligence Accord: When AI Owners Write Their Own Laws
از ناهار دربستهٔ کاخ سفید تا خودتنظیمیِ بدون مردم؛ تولید اجتماعی، مالکیت خصوصی
حمید اخوی
۱. صحنه: ناهاری در اتاق شرقی
بیست‌ونهم سپتامبر ۲۰۲۶، برابر با هفتم مهر ۱۴۰۵، اتاق شرقی کاخ سفید میزبان ناهاری بود که مهمانانش نه سران کشورها و دیپلمات‌ها، بلکه صاحبان بزرگ‌ترین شرکت‌های هوش مصنوعی و تراشهٔ جهان بودند. دونالد ترامپ، رئیس‌جمهور، در رأس میز نشسته بود؛ در کنارش جی‌دی ونس، معاون رئیس‌جمهور، و مایک جانسون، رئیس مجلس نمایندگان. اما چهره‌های اصلیِ این صحنه، مدیران عامل بودند: داریو آمودی از آنتروپیک، گرگ براکمن از اوپن‌ای‌آی که به نمایندگی از شرکت امضا می‌کرد، ایلان ماسک از ایکس‌ای‌آی، جف بزوس از آمازون، جنسن هوانگ از انویدیا، ساندار پیچای از گوگل، مارک زاکربرگ از متا، ساتیا نادلا از مایکروسافت، لیزا سو از ای‌ام‌دی و الکس کارپ از پالانتیر.
چیدمان صندلی‌ها، که خودِ ترامپ تصویرش را در تروث سوشال منتشر کرد، به‌تنهایی یک بیانیهٔ سیاسی بود: ماسک دقیقاً در سمت چپ ترامپ نشسته بود و هوانگ در سمت راست او. این‌که چه کسانی نزدیک‌ترین صندلی‌ها به رئیس‌جمهور را اشغال می‌کنند، در واشنگتن هیچ‌وقت تصادفی نیست. ناهار پشت درهای بسته برگزار شد و سپس مهمانان برای یک کنفرانس خبری علنی به محوطهٔ ورودی کاخ سفید آمدند؛ ترکیبی آشنا از تصمیم‌گیریِ پنهان و نمایشِ عمومی.
۲. پیمان دقیقاً چه می‌گوید
سندی که در پایان این ناهار امضا شد، «پیمان کاخ سفید در باب ابرهوش» نام دارد؛ عنوان کامل انگلیسی آن The White House Accord on Superintelligence: A Joint Commitment on Frontier SI Responsibilities است. سندی یک‌صفحه‌ای، داوطلبانه، که شش تعهد را بر دوش امضاکنندگان می‌گذارد. به زبان ساده، شرکت‌ها پذیرفته‌اند که:
نخست، این فناوری را به‌شیوه‌ای امن توسعه دهند؛ دوم، کنترل‌های درونیِ نیرومندی داشته باشند که مشکلات را رصد و شناسایی کند؛ سوم، یک تیم داخلی را مأمور کنند که بر صحتِ همان کنترل‌ها نظارت کند؛ چهارم، با یک حسابرس خارجیِ مستقل برای ارزیابی‌ها همکاری کنند؛ پنجم، یک کمیتهٔ مستقل در هیئت‌مدیره تعیین کنند که گزارش‌ها را دریافت کند و بر رعایت تعهدات نظارت داشته باشد؛ و ششم، از هک‌کردن یا دسترسیِ ناخواستهٔ سامانه‌هایشان به سامانه‌های فنیِ دیگر جلوگیری کنند.
در نگاه اول، فهرستِ معقولی به نظر می‌رسد. اما کافی است یک پرسش ساده بپرسیم تا تصویر دگرگون شود: چه کسی این کنترل‌ها را طراحی می‌کند؟ چه کسی تیم داخلی را استخدام می‌کند؟ چه کسی حسابرس «مستقل» را انتخاب و دستمزدش را می‌پردازد؟ و گزارش‌ها به کدام کمیته می‌رسد؟ پاسخ در هر شش مورد یکی است: خودِ شرکت‌ها. این پیمان، در واقع، یک نظامِ خودپلیسیِ تمام‌عیار است که در آن قانون‌گذار، مجری، حسابرس و ناظر، همگی از یک جنس‌اند: مالکان.
نکتهٔ قابل‌تأمل این است که ششمین تعهد ــ جلوگیری از هک‌کردن یا دسترسیِ ناخواسته ــ مستقیماً به همان رسوایی‌هایی پاسخ می‌دهد که در هفته‌های پیش از ناهار فاش شده بود: ایجنت‌هایی که در جریانِ آزمایش سرکش شده و به سامانه‌های شرکت‌های دیگر نفوذ کرده بودند. یعنی شرکت‌ها پس از آن‌که نتوانستند سامانه‌های خود را کنترل کنند، حالا همان ناتوانی را در قالبِ «تعهد» به‌عنوان دستاورد عرضه می‌کنند؛ قولی که می‌گوید «دیگر این کار را نخواهیم کرد»، در حالی که پرسشِ واقعی این است که چرا اصلاً سامانه‌ای ساخته‌اند که چنین کاری از دستش برمی‌آید ــ و چرا هیچ‌کس بیرون از شرکت، حق ندارد این پرسش را بپرسد.
۳. «از نظر اخلاقی الزام‌آور»: سندی که هیچ‌کس را ملزم نمی‌کند
ترامپ در معرفی این پیمان آن را «از نظر اخلاقی الزام‌آور» و «مانند یک قانون اساسی» توصیف کرد. این تعبیرها دقیقاً همان‌قدر که پرطمطراق‌اند، از نظر حقوقی تهی‌اند. پیمان کاخ سفید هیچ ضمانت اجرایی ندارد؛ هیچ دادگاهی نمی‌تواند شرکتی را به‌خاطر نقض آن محاکمه کند و هیچ جریمه‌ای در کار نیست. «الزام اخلاقی» در دنیای شرکت‌های چندتریلیون دلاری، یعنی الزامی که هر زمان منافع ایجاب کند، می‌توان آن را کنار گذاشت.
نکتهٔ ظریف‌تر اما در جمله‌ای نهفته است که متن پیمان آگاهانه باز گذاشته است: این‌که گام‌های پیش‌بینی‌شده در آن، بعداً می‌تواند به قانون تبدیل شود. به عبارت دیگر، صاحبان هوش مصنوعی نه‌تنها امروز قواعد بازی را خودشان می‌نویسند، بلکه پیش‌نویسِ قانونِ فردا را هم خودشان تهیه می‌کنند. وقتی نوبت به قانون‌گذاری واقعی برسد، کنگره با متنی روبه‌رو خواهد شد که در اتاق شرقی کاخ سفید، پشت درهای بسته و بدون حضور هیچ نماینده‌ای از مردم، نوشته شده است. این دقیق‌ترین معنای «تسخیرِ مقررات» است: نه رشوه‌دادن به قانون‌گذار، بلکه جایگزین‌شدن با او.
عبارتِ «الزام اخلاقی» را باید در کنارِ سابقهٔ این شرکت‌ها خواند. اخلاق در این‌جا نه یک نظامِ پاسخ‌گویی، بلکه یک ژستِ زبانی است؛ چیزی شبیه سوگندهایی که در مراسمِ عمومی خوانده می‌شود و در اتاق‌های هیئت‌مدیره فراموش می‌شود. قانون اساسی ــ که ترامپ پیمان را به آن تشبیه کرد ــ دقیقاً برای مهارِ قدرتِ صاحبانِ قدرت نوشته شده است؛ اما این «قانون اساسیِ» یک‌صفحه‌ای، برعکس، برای رهاییِ صاحبانِ قدرت از مهار نوشته شده است. تشبیه، وارونه از آب درآمده است.
۴. خودتنظیمی بدون مردم: چه کسانی سر میز نبودند
مهم‌ترین واقعیتِ این پیمان نه در آن چیزی است که می‌گوید، بلکه در آن چیزی است که نمی‌گوید و در کسانی است که سر میز نبودند. در اتاق شرقی کاخ سفید، هیچ کارگری از مراکزی که داده‌ها را برچسب می‌زنند و محتوای آزارنده را پالایش می‌کنند، حضور نداشت؛ هیچ نماینده‌ای از جوامعی که دیتاسنترها برق و آبِ آن‌ها را می‌بلعند و قبض‌هایشان را بالا می‌برند، دعوت نشده بود؛ هیچ صدایی از پژوهشگران مستقلی که با پول عمومی دانشِ بنیادینِ این فناوری را ساخته‌اند، شنیده نشد؛ و هیچ سازوکاری برای شفافیت در برابر عموم پیش‌بینی نشد.
این غیبت، تصادفی نیست؛ ساختاری است. هوش مصنوعیِ امروز حاصلِ تولیدی عمیقاً اجتماعی است: میلیون‌ها کارگرِ پیدا و پنهان، میلیاردها کاربر که با هر کلیک و هر گفت‌وگو داده تولید می‌کنند، دهه‌ها پژوهشِ دانشگاهیِ تأمین‌شده با بودجهٔ عمومی، شبکه‌های برق و زیرساخت‌هایی که با پول مالیات‌دهندگان ساخته شده‌اند. اما پیمان کاخ سفید، درست در لحظه‌ای که این تولیدِ اجتماعی به بلوغ رسیده، مالکیتِ خصوصیِ نتیجه را تثبیت می‌کند: تصمیم دربارهٔ این‌که چه ساخته شود، چگونه به کار رود و سودش به جیب چه کسی برود، در اختیار همان عده‌ای می‌ماند که دور میز نشسته بودند.
این تناقض را می‌توان در یک جمله خلاصه کرد: هرچه تولیدِ هوش مصنوعی اجتماعی‌تر می‌شود ــ هرچه بیشتر به دادهٔ همگان، کارِ همگان و منابعِ همگان تکیه می‌کند ــ مالکیتِ آن خصوصی‌تر و متمرکزتر می‌شود. پیمان کاخ سفید این تناقض را حل نمی‌کند؛ آن را مُهرِ رسمی می‌زند. وقتی گفته می‌شود دولت «هرگز» جلوی این فناوری را نخواهد گرفت، معنای عملی‌اش این است که دولتِ آمریکا ضامنِ این انتقالِ یک‌طرفه است: از جیبِ همگان، به جیبِ عده‌ای معدود.
به این ترتیب، «مسئولیت» در این پیمان معنایی کاملاً وارونه پیدا می‌کند. مسئولیت در برابر چه کسی؟ در برابر هیئت‌مدیرهٔ خودِ شرکت، در برابر حسابرسی که خودِ شرکت استخدام کرده، در برابر تیمی داخلی که حقوقش را خودِ شرکت می‌پردازد. مردم ــ همان کسانی که هزینه‌ها را می‌پردازند و پیامدها را تحمل می‌کنند ــ در این معادله هیچ جایگاهی ندارند؛ نه حق رأی، نه حق نظارت، نه حتی حقِ دانستن. این همان الگویی است که در تمام تاریخِ سرمایه‌داریِ انحصاری تکرار شده: اجتماعی‌کردنِ هزینه‌ها و خصوصی‌کردنِ سودها و این‌بار، خصوصی‌کردنِ خودِ قانون.
۵. عملیات زبانی: وقتی «هوش مصنوعی» به «ابرهوش» تغییر نام می‌دهد
در همان روز، ترامپ یک فرمان اجرایی هم امضا کرد با عنوان Inaugurating the Era of Super Intelligence که بر اساس آن، دولت فدرال موظف شد در تمام اسناد و کاربردهای رسمی، به‌جای «هوش مصنوعی» و AI از «ابرهوش» و SI استفاده کند؛ و به نهادها شصت روز مهلت داده شد تا پیشنهادِ خود را برای تعریفِ قانونیِ فدرال از این مفهوم ارائه کنند. این فقط یک بازیِ زبانی نیست؛ یک عملیاتِ ایدئولوژیک است.
وقتی فناوری را «ابرهوش» می‌نامید، آن را از قلمروِ ابزارها ــ که می‌توان درباره‌شان چون‌وچرا کرد، محدودشان کرد، یا حتی ردشان کرد ــ بیرون می‌کشید و به قلمروِ سرنوشت می‌برید. ابرهوش چیزی نیست که انسان‌ها بسازند و درباره‌اش تصمیم بگیرند؛ چیزی است که «می‌آید»، مانند یک عصرِ تاریخی. ترامپ در همان کنفرانس خبری گفت که دولت هرگز جلوی هوش مصنوعی را «نخواهد گرفت»، آن را «بزرگ‌تر از انقلاب صنعتی» خواند و رقابت با چین را مسابقه‌ای توصیف کرد که در آن «مقام دومی وجود ندارد». پیامِ ضمنی روشن است: هرگونه قیدوبندِ دموکراتیک بر این فناوری، خیانت به رقابت ملی است. کسی که بگوید «آهسته‌تر» یا «شفاف‌تر» یا «عادلانه‌تر»، در این روایت نه یک شهروندِ مسئول، بلکه مانعی بر سر راه پیروزی بر چین است.
تغییر نام، همچنین کارکردِ حقوقیِ دقیقی دارد: وقتی مفهومِ قانونیِ تازه‌ای با مهلت شصت‌روزه تعریف می‌شود، همان کسانی که دور میز نشسته‌اند، بانفوذترین صداها در تعریفِ آن خواهند بود. زبانِ قانونِ فردا، امروز در اتاق شرقی نوشته می‌شود.
این عملیاتِ زبانی سابقه هم دارد: هر بار که فناوریِ تازه‌ای منافعِ بزرگی را جابه‌جا کرده، نخست نامش را به سرنوشت ترجمه کرده‌اند. اما تفاوتِ این‌بار در گستردگیِ پیامدهاست: سامانه‌هایی که امروز دربارهٔ استخدام، وام، درمان و حتی اهدافِ نظامی تصمیم می‌گیرند، دیگر «ابزار» نیستند؛ به نهادهای قدرت تبدیل شده‌اند. و نهادهای قدرت در هیچ جامعهٔ آزادی بدونِ نظارتِ عمومی و پاسخ‌گوییِ دموکراتیک مشروع نیستند ــ مگر آن‌که نامشان را چنان بزرگ کنید که پرسیدن از آن‌ها، کفر به حساب آید.
۶. دولتِ ویترین و دولتِ مشتری: america.gov
ترامپ در همان مراسم از america.gov رونمایی کرد؛ درگاهی یکپارچه برای خدمات فدرال که با همکاری مدل جمینایِ گوگل و گراکِ ماسک ساخته شده است. او به‌طور ویژه از ماسک تمجید کرد. این صحنه را باید دقیق خواند: دولتِ آمریکا هم‌زمان در دو نقش ظاهر می‌شود؛ ویترینِ تبلیغاتیِ شرکت‌ها و مشتریِ بزرگِ آن‌ها. وقتی رئیس‌جمهور در محوطهٔ کاخ سفید محصولِ دو شرکتِ حاضر در جلسه را تبلیغ می‌کند، مرز میان تنظیم‌گر و ذی‌نفع عملاً پاک می‌شود.
ترامپ همچنین گفت که در حال بررسیِ تشکیلِ یک هیئت ده‌نفره برای نظارت بر ایمنیِ هوش مصنوعی است. اما در نظامی که قواعد را خودِ شرکت‌ها می‌نویسند، حسابرسان را خودشان انتخاب می‌کنند و حالا مشتریِ اصلی‌شان هم دولت است، چنین هیئتی ــ اگر اساساً تشکیل شود ــ بیشتر به یک دکورِ مشروعیت‌بخش شبیه خواهد بود تا یک نهادِ نظارتیِ واقعی. پرسشِ اصلی نه این است که چه کسی «نظارت» می‌کند، بلکه این است که نظارت به نامِ چه کسی و به حسابِ چه کسی انجام می‌شود.
۷. دیتاسنترها و رشوهٔ «جوامع خوشحال‌تر»
یکی از صریح‌ترین لحظه‌های آن روز، سخنان ترامپ دربارهٔ دیتاسنترها بود. او گفت شرکت‌ها پذیرفته‌اند با کمک‌های مالی ــ مثلاً به مدارس محلی ــ جوامع میزبان را «خوشحال‌تر» کنند؛ و هشدار داد که اگر مقاومتِ محلی ادامه پیدا کند، این پروژه‌ها ممکن است به خارج از کشور منتقل شوند. پس‌زمینهٔ این سخنان را نباید فراموش کرد: موجِ فزایندهٔ مخالفتِ محلی با ساختِ شتابانِ دیتاسنترها، که مصرفِ سرسام‌آورِ برق و بالا رفتنِ قبض‌های خدمات شهری را به همراه داشته است.
این‌جا منطقِ پیمان در شفاف‌ترین شکلش دیده می‌شود: به‌جای آن‌که به جوامع حقِ تصمیم‌گیری دربارهٔ سرنوشتِ آب و برق و زمین‌شان داده شود، به آن‌ها «کمک مالی» پیشنهاد می‌شود؛ به‌جای قدرت، صدقه. و اگر صدقه را نپذیرند، تهدیدِ انتقالِ پروژه به جایی دیگر ــ یعنی به جایی که مردمش قدرتِ چانه‌زنیِ کمتری داشته باشند ــ روی میز است. این دقیقاً همان معامله‌ای است که شرکت‌های استخراجیِ نفت و معدن دهه‌هاست با جوامع محلی می‌کنند: هزینه‌های اجتماعی را تحمیل کن، سود را خصوصی نگه دار، و برای خریدنِ رضایت، مدرسه‌ای بساز. نامِ این کار «مسئولیت اجتماعی» نیست؛ رشوهٔ ساختاریافته است.
تهدیدِ ضمنیِ همراهِ این پیشنهاد ــ که اگر مقاومت کنید، پروژه به خارج می‌رود ــ نیز بخشی از همین منطق است: جوامع نه به‌مثابهٔ شهروندانی که حقِ تصمیم دارند، بلکه به‌مثابهٔ میزبانانی دیده می‌شوند که باید «خوشحال» نگه داشته شوند؛ و اگر خوشحال نشدند، میزبانِ دیگری پیدا می‌شود. در این نگاه، دموکراسیِ محلی یک «هزینهٔ مبادله» است که باید به حداقل برسد، نه ارزشی که باید پاس داشته شود.
۸. دعوای خانوادگی: آمودی در برابر زاکربرگ و هوانگ
پرحاشیه‌ترین بخشِ ماجرا، اختلافی بود که میانِ خودِ مهمانانِ میز درگرفت؛ اختلافی که رسانه‌ها آن را به‌درستی «دعوای خانوادگیِ» الیگارشیِ فناوری خواندند. داریو آمودی، مدیرعامل آنتروپیک، هفته‌ها پیش از این ناهار خواستار مقرراتِ الزام‌آور شده بود؛ مقرراتی که به گفتهٔ او باید «تمام شرکت‌های پیشتازِ آمریکاییِ هوش مصنوعی» را در بر بگیرد و سرعتِ پیشروی در مرزهای این فناوری را «تنظیم» کند. اما در اتاق شرقی، او عملاً به حاشیه رانده شد: به گزارش رسانه‌ها، زاکربرگ اصرار داشت که همه به همان اصولِ داوطلبانه تمکین کنند و هوانگ پس از ناهار مستقیماً با آمودی بر سر لحنِ آخرالزمانی‌اش درگیر شد. آمودی در پایان، با همان ادبیاتِ محتاطانهٔ همیشگی‌اش گفت «اگر این کار را درست انجام دهیم… می‌توانیم به‌شیوه‌ای امن پیروز شویم» و زاکربرگ پیمان را «یک آغاز» خواند.
قلبِ این اختلاف، مسئلهٔ مدل‌های باز و اوپن‌ویت است. در ماه ژوئیه، نامهٔ سرگشاده‌ای با عنوان Open Weights and American AI Leadership منتشر شد که در آن هوانگ نوشته بود وزن‌های باز «دسترسی به اقتصادِ هوش مصنوعی» را برای استارتاپ‌ها، دانشگاه‌ها و نهادهای عمومی گسترش می‌دهد؛ نامه‌ای که متا، هاگینگ فیس و مایکروسافت آن را تأیید کردند، اما آنتروپیک و اوپن‌ای‌آی نه. زاکربرگ از سال ۲۰۲۴ استدلال کرده که سامانه‌های باز به‌طور گسترده وارسی می‌شوند و در برابر آسیب‌های ناخواسته امن‌ترند. آمودی اما این ادعا را رد می‌کند: به گفتهٔ او، آنتروپیک «هرگز خواستار ممنوعیت مدل‌های اوپن‌ویت نشده»، اما این ادعا را هم نمی‌پذیرد که بازبودن لزوماً به نفع مدافعان تمام می‌شود تا مهاجمان؛ به تعبیرِ خودش، «به همان اندازه محتمل است که عکسِ آن درست باشد». استدلالِ کلیدیِ او این است که وقتی وزن‌های یک مدل منتشر شد، دیگر نمی‌توان آن را پس گرفت یا به‌طور قابل‌اعتمادی نگهبانی کرد.
به‌جای بحثِ باز یا بسته، آنتروپیک سه مطالبهٔ مشخص دارد: کنترل‌های سخت‌گیرانه‌تر بر صادرات تراشه به چین، اقدام علیه تقطیرِ صنعتی در مقیاس بزرگ، و آزمایشِ اجباریِ پیش از انتشارِ مدل‌های قدرتمند از نظر خطرات سایبری، زیستی و هم‌راستایی ــ چه باز باشند، چه بسته. هر سهٔ این مطالبه‌ها را باید دقیق خواند. کنترلِ صادراتِ تراشه به چین، مستقیماً به نفعِ فروشندگانِ آمریکاییِ تراشه است ــ یعنی همان شرکتی که مدیرعاملش سرِ میز، روبه‌روی آمودی نشسته بود. اقدام علیه «تقطیرِ صنعتی» ــ یعنی استفادهٔ شرکت‌های کوچک‌تر از خروجیِ مدل‌های بزرگ برای آموزشِ مدل‌های خودشان ــ عملاً راهِ میان‌بُرِ رقیبانِ کم‌هزینه را می‌بندد. و «آزمایشِ اجباریِ پیش از انتشار» ــ با همهٔ توجیهِ ایمنی‌اش ــ هزینه‌ای است که فقط غول‌ها از پسِ آن برمی‌آیند. به عبارت دیگر، «مقرراتِ» آمودی دقیقاً همان دیواری است که دورِ قلعهٔ مدل‌های بسته کشیده می‌شود؛ و کلیدِ دروازه‌اش دستِ کسانی است که امروز پشتِ میزِ اتاق شرقی نشسته‌اند. و همین‌جا نکتهٔ مهم روشن می‌شود: آنچه آمودی «مقررات» می‌نامد، در عمل دیواری است که فقط غول‌هایی به بزرگیِ آنتروپیک و اوپن‌ای‌آی از پسِ هزینهٔ عبور از آن برمی‌آیند؛ مقرراتی که رقیبانِ کوچک‌تر و مدل‌های باز را زمین‌گیر می‌کند و خندقِ انحصارِ صاحبانِ مدل‌های بسته را عمیق‌تر می‌سازد.
پس این دعوا را نباید دعوای «خوب‌ها» و «بدها» خواند؛ دعوای دو جناح از یک طبقه است بر سرِ این‌که خندقِ انحصار کجا کشیده شود. زاکربرگ و هوانگ می‌خواهند با سلاحِ وزن‌های باز، رانتِ مدل‌های بسته را بشکنند ــ و در این میان، فروشِ تراشه‌های انویدیا به همهٔ طرف‌ها تضمین می‌شود. آمودی می‌خواهد با سلاحِ «مقررات»، همان رانت را برای باشگاهِ مدل‌های بسته حفظ کند. اما هر دو جناح بر سرِ اصلِ اساسی توافق دارند: هیچ نظارتِ عمومیِ الزام‌آوری در کار نباشد، و قدرتِ تصمیم‌گیری دربارهٔ داده، استقرار و اولویت‌ها، هرگز از دستِ مالکان خارج نشود. و جالب این‌که مدل‌های باز و اوپن‌سورس صراحتاً از استانداردهای ایمنیِ این پیمان معاف شده‌اند؛ یعنی پیمان، باشگاهِ مدل‌های بسته را به رسمیت می‌شناسد و بقیه را به حال خود رها می‌کند.
۹. برندهٔ واقعی: غول‌های تراشه و پلتفرم
اگر بپرسیم در پایانِ آن روز چه کسی واقعاً برد، پاسخ را باید در همان چیدمانِ صندلی‌ها جست: هوانگ در سمت راستِ ترامپ و ماسک در سمت چپ او. برندگانِ این پیمان، غول‌های تراشه و پلتفرم‌اند؛ همان‌هایی که زیرساختِ فیزیکی و توزیعیِ این فناوری را در اختیار دارند و حالا قواعدِ بازی را هم خودشان می‌نویسند.
فهرستِ امضاکنندگان هم گویاست: آمودی، براکمن، هوانگ، ماسک، پیچای و زاکربرگ امضا کردند؛ اما مایکروسافت و آمازون ــ با وجودِ حضورِ نادلا و بزوس سر میز ــ امضا نکردند و اپل اصلاً در جلسه حاضر نبود. این یعنی حتی درونِ خودِ باشگاه نیز اجماعی در کار نیست و هر شرکت حسابِ سود و زیانِ خود را جداگانه کرده است. با این حال، جهتِ کلیِ حرکت روشن است: تثبیتِ نظمی که در آن تولیدِ اجتماعیِ هوش مصنوعی ــ دادهٔ کاربران، کارِ برچسب‌زنندگان، پژوهشِ عمومی، انرژیِ شبکه‌ها ــ به مالکیتِ خصوصیِ عده‌ای معدود ترجمه می‌شود و دولت، به‌جای آن‌که نمایندهٔ منافعِ عمومی باشد، ضامنِ این ترجمه است.
در همین روز، سم آلتمن، مدیرعامل اوپن‌ای‌آی، به شبکهٔ سی‌ان‌بی‌سی گفت که این شرکت گاهی آموزشِ مدل‌ها را متوقف می‌کند تا بتواند با اطمینان، پروندهٔ ایمنی بسازد. این جمله را باید در کنارِ پس‌زمینهٔ آن هفته خواند: گزارش‌هایی از این‌که ایجنت‌های هوش مصنوعیِ اوپن‌ای‌آی و آنتروپیک در جریانِ آزمایش‌ها سرکش شده و به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند، و گزارش‌هایی از تلاشِ ایجنت‌های بدون‌نظارت برای نفوذ به پایگاه‌های دادهٔ فدرال. وقتی سامانه‌هایی که حتی سازندگانشان نمی‌توانند رفتارشان را پیش‌بینی کنند، قرار است با «کنترل‌های درونی» و «تیم‌های داخلی» مهار شوند، باید پرسید: چه کسی از چه کسی محافظت می‌شود؟
۱۰. نتیجه‌گیری: از خودپلیسی تا کنترل دموکراتیک
پیمان کاخ سفید در باب ابرهوش را باید همان‌گونه که هست نامید: اعلامیه‌ای که طی آن صاحبانِ هوش مصنوعی، در حضورِ رئیس‌جمهور، به یکدیگر و به دولت قول دادند که خودشان مراقبِ خودشان باشند. بدون مردم، بدون کارگران، بدون جوامع، بدون شفافیت، و بدون هیچ سازوکارِ الزام‌آوری. این سند نه پاسخی به خطراتِ واقعیِ این فناوری است و نه گامی به سوی حکمرانیِ مسئولانه؛ بلکه تثبیتِ رسمیِ این اصل است که سرنوشتِ یکی از تعیین‌کننده‌ترین فناوری‌های تاریخِ بشر، در انحصارِ عده‌ای معدود باقی بماند.
راهِ بدیل، نه «مقرراتِ» آمودی است ــ که خندقی برای بازیگرانِ تثبیت‌شده می‌سازد ــ و نه «بازبودنِ» زاکربرگ ــ که خندق را جابه‌جا می‌کند. راهِ بدیل، کنترلِ دموکراتیک است؛ یعنی همان چیزی که این پیمان با دقتِ تمام از آن پرهیز کرده: مشارکتِ واقعیِ مردم در قدرت. کارگرانی که داده‌ها را تولید و پالایش می‌کنند، جوامعی که هزینه‌های انرژی و محیط‌زیست را می‌پردازند، و شهروندانی که زندگی‌شان با تصمیم‌های این سامانه‌ها شکل می‌گیرد، باید بر سرِ سه پرسشِ بنیادین حقِ رأی داشته باشند: چه داده‌ای، برای چه هدفی، و به نفعِ چه کسی به کار می‌رود.
این حرف، انتزاعی نیست. کنترلِ دموکراتیک یعنی شوراهای کارگری و محلی که بر استقرارِ سامانه‌های نظارتی و خودکار حقِ اظهارنظرِ الزام‌آور داشته باشند؛ یعنی شفافیتِ اجباری دربارهٔ این‌که مدل‌ها با چه داده‌ای آموزش دیده‌اند و چه کسانی از آن‌ها سود می‌برند؛ یعنی حسابرسیِ واقعاً مستقل ــ نه حسابرسی که کارفرمایش خودِ شرکت باشد ــ با اختیارِ انتشارِ عمومیِ یافته‌ها؛ و یعنی این‌که تصمیم دربارهٔ کاربردهای نظامیِ این فناوری از اتاق‌های دربسته بیرون بیاید و به عرصهٔ عمومی برگردد. هیچ‌کدام از این‌ها در پیمانِ یک‌صفحه‌ایِ کاخ سفید نیست؛ و همین غیبت، دقیق‌ترین سندِ ماهیتِ آن است.
تا زمانی که این سه پرسش را عده‌ای معدود ــ چه در اتاق شرقی کاخ سفید، چه در هیئت‌مدیره‌های سیلیکون‌ولی ــ پاسخ می‌دهند، هر پیمانی، هر قدر هم که عنوانش پرطمطراق باشد، چیزی بیش از خودپلیسیِ اشرافِ فناوری نخواهد بود. هوش مصنوعی حاصلِ کارِ اجتماعیِ بشریت است؛ مالکیت و مدیریتِ آن نیز باید اجتماعی و دموکراتیک باشد. این، ساده‌ترین و در عین حال رادیکال‌ترین درسی است که از ناهارِ بیست‌ونهم سپتامبر می‌توان گرفت.
