دیدگاه‌های متفاوت و چشم‌انداز نظم اجتماعی نوین در عصر آگاهی
حمید اخوی — ۲۲ مهر ۱۴۰۵ / ۱۴ اکتبر ۲۰۲۶
آینده از زندگی روزمره آغاز می‌شود
کارگری را تصور کنیم که سامانه‌ای دربارهٔ سرعت کار، زمان استراحت یا ارزیابی عملکردش تصمیم می‌گیرد؛ مستأجری که می‌خواهد بداند بودجهٔ مسکن شهر به چه کسانی می‌رسد؛ یا ساکنی که در نزدیکی خانه‌اش قرار است مرکز داده ساخته شود. برای این افراد، آیندهٔ هوش مصنوعی بحثی دوردست دربارهٔ ماشین‌های فوق‌هوشمند نیست. مسئله به درآمد، زمان، آب، برق و امکان اثرگذاری بر تصمیم‌هایی مربوط است که زندگی‌شان را شکل می‌دهد.
دربارهٔ آیندهٔ هوش مصنوعی نظرات متفاوتی وجود دارد: برخی از خطرهای بزرگ هشدار می‌دهند، برخی به پیشرفت علمی و فراوانی امیدوارند، و برخی بر کار، مالکیت، هزینه‌های محیط‌زیستی و تمرکز قدرت تأکید می‌کنند. برای روشن کردن جایگاه بحث خود، باید ابتدا این دیدگاه‌ها را بشناسیم و سپس نشان دهیم پرسش «مشارکت مردم در قدرت» چگونه با آن‌ها پیوند می‌خورد.
آیندهٔ هوش مصنوعی: دیدگاه‌های متفاوت و پرسش‌های مشترک
دربارهٔ آیندهٔ هوش مصنوعی یک نظر واحد وجود ندارد. اختلاف‌ها هم به توانایی و خطرهای ماشین مربوط‌اند و هم به سرعت توسعه، نظارت، مالکیت و شیوهٔ تقسیم منافع. دسته‌بندی زیر نقشه‌ای برای فهم بحث است، نه تقسیم اشخاص به اردوگاه‌های ثابت. یک پژوهشگر ممکن است هم از ظرفیت‌های فناوری دفاع کند و هم دربارهٔ خطرها هشدار دهد. نمونه‌های تاریخی نیز نباید به‌جای تمام مواضع کنونی افراد نشانده شوند.
۱. هشداردهندگان دربارهٔ خطر انقراض
الیزر یودکوفسکی در مقالهٔ تایم در مارس ۲۰۲۳، ادامهٔ ساخت هوش مصنوعیِ فراتر از توان انسان را تهدیدی بسیار جدی دانست و خواهان توقف جهانیِ آموزش سامانه‌های بسیار قدرتمند شد. این موضع بر احتمال از دست رفتن کنترل تأکید دارد. [۵] اهمیت بحث آن است که پیامدهای برگشت‌ناپذیر را پیش می‌کشد؛ اما شدت یک هشدار، اثبات علمیِ قطعیت آن نیست. از دید بحث ما، باید علاوه بر امکان کنترل فنی پرسید چه کسی اختیار تعریف خطر، تعیین حدود توسعه و اجرای محدودیت‌ها را خواهد داشت.
۲. پژوهشگران سازنده و نگران
جفری هینتون نمونه‌ای از پژوهشگرانی است که با وجود نقش بنیادین در توسعهٔ شبکه‌های عصبی، دربارهٔ پیامدهای اجتماعی و احتمال از دست رفتن کنترل هشدار می‌دهند. هشدارهای او در گفت‌وگوهای منتشرشده از سوی نوبل نیز مطرح شده‌اند. [۶] این گرایش نشان می‌دهد مشارکت در ساخت فناوری، به معنای اعتماد بی‌قیدوشرط به آیندهٔ آن نیست. پیوند این نگرانی با چارچوب ما، ضرورت پاسخ‌گوییِ سازندگان و نهادهای استفاده‌کننده است؛ مسئولیت باید همراه با اختیار تصمیم باشد.
۳. خوش‌بینانِ مشروط به پیشرفت
داریو آمودی در «ماشین‌های فیضِ عاشقانه» در اکتبر ۲۰۲۴، امکان شتاب گرفتن پیشرفت در سلامت، علم و بهبود زندگی را بررسی کرد. این‌ها سناریوهای مشروط‌اند، نه دستاوردهای تضمین‌شده. نوشتهٔ بعدی او، «نوجوانی فناوری»، به خطرها نیز می‌پردازد. [۷] پس خوش‌بینی و نگرانی می‌توانند در یک دیدگاه جمع شوند. پرسش تکمیلی ما این است: حتی اگر ظرفیت درمان و تولید افزایش یابد، چه سازوکاری تضمین می‌کند مردم کم‌درآمد و جوامع محروم نیز از آن بهره ببرند؟
۴. شتاب‌دهندگان و خوش‌بینان بازارمحور
مارک آندریسن در «مانیفست تکنو-خوش‌بین» در اکتبر ۲۰۲۳، فناوری، رشد و بازار را موتور پیشرفت معرفی کرد. [۸] در این نگاه، گسترش نوآوری و تولید محور اصلی است. نقد ما این نیست که افزایش توان تولید بی‌اهمیت است؛ بلکه این است که توان تولید و توزیع عادلانه یک مسئله نیستند. فراوانیِ بالقوه، بدون تغییر مناسبات مالکیت و قدرت، می‌تواند با محرومیت واقعی هم‌زمان باشد. باید پرسید رشدِ چه چیزی، به سود چه کسانی و با چه هزینه‌ای؟
۵. طرفداران توقف یا کند کردن توسعه
نامهٔ مؤسسهٔ آیندهٔ حیات در مارس ۲۰۲۳، خواستار توقف دست‌کم شش‌ماههٔ آموزش مدل‌های قوی‌تر از GPT-4 شد تا فرصت تدوین و اجرای سازوکارهای ایمنی فراهم شود. [۹] این پیشنهاد با توقف نامحدود همهٔ پژوهش‌ها یکسان نیست. پرسش اجتماعی آن است که فرصت حاصل از توقف در اختیار چه کسانی قرار می‌گیرد: آیا فقط دولت‌ها و شرکت‌ها مذاکره می‌کنند، یا کارکنان، شهروندان و نهادهای مستقل نیز در تعیین قواعد سهم دارند؟
۶. طرفداران ایمنی، هم‌راستایی و نظارت
بخشی از بحث بر سازگار کردن رفتار سامانه با اهداف انسانی، آزمون ایمنی و نظارت متمرکز است. جلسهٔ استماع سنای آمریکا در مه ۲۰۲۳ با حضور سم آلتمن، یکی از نمونه‌های عمومیِ طرح ضرورت نظارت بود؛ این جلسه را نباید معادل تمام پژوهش‌های هم‌راستایی دانست. [۱۰] در اینجا پرسش ما روشن است: هم‌راستایی با خواست کدام انسان‌ها؟ اهداف مالکان و دولت‌ها ممکن است با نیاز کارکنان، کاربران یا اقلیت‌ها تعارض داشته باشند. ایمنی فنی باید با حقوق و پاسخ‌گویی اجتماعی همراه شود.
۷. نگاه ژئوپلیتیک: رقابت و همکاری
هوش مصنوعی می‌تواند در رقابت اقتصادی و امنیتی دولت‌ها جای گیرد؛ اما همکاری بین‌المللی نیز بخشی از همین میدان است. بیانیهٔ بلچلی در نوامبر ۲۰۲۳ بر همکاری برای ایمنی، حقوق بشر و پاسخ‌گویی تأکید کرد و نباید آن را اعلام رسمیِ مسابقهٔ تسلیحاتی نامید. [۱۱] بحث ما می‌پرسد چگونه همکاری میان دولت‌ها و شرکت‌ها می‌تواند با مشارکت عمومی پیوند بخورد. امنیت یک کشور، به‌تنهایی معیار عدالت برای کارکنان، شهروندان و مردم دیگر کشورها نیست.
۸. منتقدان ادعای فهم و آسیب‌های مدل‌های زبانی
امیلی بندر، تیمنیت گبرو و همکاران در مقالهٔ «طوطی‌های تصادفی» در ۲۰۲۱، دربارهٔ یکی گرفتن روانیِ خروجی با فهم، و نیز هزینه‌های محیط‌زیستی، سوگیری و آسیب‌های اجتماعی هشدار دادند. [۱۲] این نقد را نباید صرفاً تردید در توانایی ماشین خواند؛ مناسبات قدرت نیز در آن حضور دارد. چارچوب ما با این نقد هم‌پوشانی دارد و می‌خواهد از شناخت آسیب‌ها به تعیین حقوق، مسئولیت‌ها و نهادهای مشارکت در تصمیم برسد.
۹. منتقدان اقتصاد سیاسی هوش مصنوعی
کیت کرافورد در «اطلس هوش مصنوعی» در ۲۰۲۱، فناوری را در پیوند با کار، استخراج منابع، زیرساخت و قدرت بررسی می‌کند. [۱۳] این نگاه مستقیماً با پرسش اجتماعی بودن تولید مرتبط است. بنابراین درست نیست بگوییم منتقدان پیش از ما مسئلهٔ قدرت را نادیده گرفته‌اند. تأکید پیشنهادی ما، پیوند دادن این نقد با طرح ایجابیِ مالکیت اجتماعی و مشارکت نهادمند مردم در تعیین هدف‌ها، نظارت و بازبینی تصمیم‌هاست.
۱۰. مدافعان مدل‌های باز و دسترسی گسترده‌تر
یان لکون از چهره‌های شناخته‌شدهٔ دفاع از مدل‌های باز و نقد برخی سناریوهای فاجعه‌بار است. [۱۴] گسترش دسترسی می‌تواند امکان استفاده، پژوهش و بررسی مستقل را بیشتر کند. اما دسترسی به مدل، دسترسی برابر به منابع محاسباتی یا حق تعیین جهت توسعه را تضمین نمی‌کند. پرسش ما این است که چگونه آزادی دسترسی با امکان واقعی استفاده و مشارکت در حکمرانی پیوند بخورد. مدل باز می‌تواند بخشی از راه‌حل باشد، اما جای ساختار دموکراتیک تصمیم‌گیری را نمی‌گیرد.
از اختلاف دیدگاه‌ها تا جایگاه بحث ما
این گرایش‌ها را نباید به دو صف سادهٔ موافق و مخالف فناوری فروکاست. اختلاف آن‌ها بر سر چند محور است: چه توانایی‌هایی قابل انتظارند، کدام خطرها مهم‌ترند، توسعه با چه سرعتی پیش برود، چه کسانی نظارت کنند و منافع چگونه تقسیم شوند. پاسخ به هر محور نیازمند شواهد و بحث مستقل است.
نقد اقتصاد سیاسی، هشدار دربارهٔ سوگیری و دفاع از دسترسی باز، هر یک بخشی از پرسش قدرت را پیش می‌کشند. بحث «نظم اجتماعی نوین در عصر آگاهی» از این نقدها می‌آموزد و می‌کوشد آن‌ها را به پرسشی نهادی وصل کند: مردم چگونه از کسانی که پیامد تصمیم را تحمل می‌کنند، به کسانی تبدیل شوند که در تعیین آن اختیار مؤثر دارند؟ این یک پیشنهاد نظری و سیاسی است، نه ادعای اینکه هیچ‌کس پیش‌تر دربارهٔ قدرت سخن نگفته است.
در برابر هشداردهندگان، بر ضرورت ایمنی و حق مردم در تعیین حدود استفاده تأکید می‌کنیم. در برابر خوش‌بینان، ظرفیت پیشرفت را از عدالت در بهره‌مندی جدا می‌کنیم. در گفت‌وگو با منتقدان اقتصاد سیاسی، مسئلهٔ مالکیت و کار را به نهادهای تصمیم‌گیری پیوند می‌دهیم. و در گفت‌وگو با مدافعان مدل‌های باز، می‌پرسیم چه زیرساخت و حقوقی لازم است تا دسترسی به مشارکت واقعی تبدیل شود.
از اینجا می‌توان بحث را یک گام جلو برد: اگر تولید اجتماعی است، اختیار تعیین هدف‌ها و نظارت بر نتایج نیز باید به شیوه‌ای دموکراتیک اجتماعی شود. این اصل به معنای حذف تخصص، نادیده گرفتن خطرهای فنی یا سپردن حقوق اقلیت به رأی اکثریت نیست؛ نیازمند نهادهایی است که هم توان تصمیم داشته باشند و هم قابل نقد و اصلاح باشند.
تولید اجتماعی و اختیار محدود
هوش مصنوعی بر مجموعه‌ای از منابع اجتماعی و مادی تکیه دارد: دانش انباشته، زبان، پژوهش، زیرساخت، انرژی، کار برنامه‌نویسان و کارکنان مراکز داده، و کار افرادی که داده‌ها را آماده و ارزیابی می‌کنند. بخشی از داده‌ها نیز از فعالیت و آثار کاربران به دست می‌آید. سهم همهٔ این افراد یکسان نیست و مشارکت در داده را نباید با همهٔ شکل‌های کار یکسان گرفت؛ اما محصول نهایی را نیز نمی‌توان صرفاً حاصل نبوغ چند مالک یا مدیر دانست.
در برابر این پایهٔ اجتماعی، اختیار تصمیم‌گیری می‌تواند در دست شمار محدودی از مالکان، مدیران و نهادهای دولتی متمرکز شود. مسئلهٔ اصلی فقط این نیست که محصول به چه کسی تعلق دارد؛ این است که چه کسی کاربرد آن را تعیین می‌کند و چگونه دستاوردهایش تقسیم می‌شود. تضاد تولید اجتماعی و مالکیت خصوصی، در اینجا به تضاد میان مشارکت گسترده در تولید و مشارکت محدود در قدرت تصمیم‌گیری نیز شکل می‌دهد.
این نقد به معنای آن نیست که تمام پرسش‌های فنی را بتوان به مالکیت فروکاست. خطای مدل، امنیت، سوگیری و قابلیت اطمینان در هر شکل مالکیتی نیازمند بررسی‌اند. تغییر مالکیت می‌تواند جهت استفاده را تغییر دهد، اما خودبه‌خود سامانه‌ای دقیق یا ایمن نمی‌سازد. نقد اجتماعی زمانی استوار است که هم مناسبات قدرت را بررسی کند و هم محدودیت‌های واقعی ابزار را.
ماشین می‌تواند انتخاب کند؛ مشروعیت را مردم تعیین می‌کنند
سامانه‌های هوش مصنوعی می‌توانند در محدوده‌ای تعریف‌شده گزینه انتخاب کنند، پیشنهاد بدهند و در صورت اتصال به ابزارها، اقدام انجام دهند. این قابلیت را نباید با آگاهی انسانی، مسئولیت اخلاقی یا حق حکومت کردن یکی گرفت. انتخاب یک گزینه بر پایهٔ هدف تعیین‌شده با تصمیم اجتماعی دربارهٔ اینکه کدام هدف عادلانه است، تفاوت دارد.
اگر معیار یک سامانه صرفاً کاهش هزینه باشد، ممکن است راه‌حلی پیشنهاد کند که بار هزینه را بر گروهی کم‌قدرت بیندازد. افزایش دقت محاسبه، اختلاف بر سر ارزش‌ها و منافع را از میان نمی‌برد. پرسش «کارآمد برای چه کسی؟» همچنان باقی می‌ماند. انسان‌ها فقط مجموعه‌ای از ویژگی‌های قابل اندازه‌گیری نیستند؛ صاحبان حق، تجربه و توان اعتراض‌اند.
بنابراین در تصمیم‌های اثرگذار بر زندگی مردم باید روشن باشد چه نهادی مسئول است، از چه داده‌هایی استفاده شده، چه محدودیت‌هایی وجود دارد و چگونه می‌توان اعتراض کرد. واگذاری بخشی از کار به سامانه نباید زنجیرهٔ مسئولیت را قطع کند. توضیح قابل فهم، بررسی انسانی و ارزیابی مستقل، اجزای پاسخ‌گویی‌اند.
تغییر مالکیت باید با تغییر شیوهٔ حکمرانی همراه شود
مالکیت دولتی به‌تنهایی برابر با کنترل مردم نیست. یک دولت می‌تواند مالک زیرساخت باشد، اما کارکنان و شهروندان را از تصمیم‌گیری کنار بگذارد. در چنین وضعیتی ممکن است تمرکز قدرت ادامه یابد. به همین دلیل، عمومی شدن منابع باید با تضمین آزادی‌ها و مشارکت واقعی در قدرت همراه شود.
شکل‌های عمومی، اجتماعی و تعاونی مالکیت را باید با معیارهای روشن سنجید: مردم تا چه اندازه در تعیین هدف‌ها اختیار دارند؟ آیا اطلاعات لازم در دسترس است؟ آیا رسانه و اتحادیه مستقل می‌توانند نقد کنند؟ آیا نمایندگان قابل عزل‌اند؟ آیا تعارض منافع آشکار می‌شود و تصمیم‌ها قابل بازبینی‌اند؟ عنوان مالکیت جای پاسخ به این پرسش‌ها را نمی‌گیرد.
مدل‌های باز نیز می‌توانند دسترسی و امکان ارزیابی را گسترش دهند، اما دسترسی به مدل با دسترسی به توان محاسباتی و حق تعیین جهت توسعه یکسان نیست. باز بودن بخشی از فناوری، بدون توجه به منابع و ساختار تصمیم‌گیری، تضمین‌کنندهٔ مشارکت برابر نیست.
مشارکت تخصص را حذف نمی‌کند
شوراهای محل کار و محله می‌توانند یکی از پایه‌های مشارکت باشند، مشروط به آنکه اختیار واقعی و سازوکار پاسخ‌گویی داشته باشند. مشارکت نباید به جلسه‌ای تشریفاتی برای تأیید تصمیمی تبدیل شود که پیش‌تر گرفته شده است. مردم باید بتوانند مسئله را تعریف کنند، گزینهٔ تازه پیشنهاد بدهند و در نظارت بر اجرا نقش داشته باشند.
این فرایند نیازمند متخصص است. کارشناسان باید گزینه‌ها، هزینه‌ها، شواهد و عدم قطعیت را توضیح دهند؛ شهروندان و نمایندگان پاسخ‌گو دربارهٔ اهداف و اولویت‌های اجتماعی تصمیم بگیرند. تخصص نمی‌تواند به‌تنهایی تعیین کند چه میزان نابرابری پذیرفتنی است یا نیاز کدام گروه باید در اولویت باشد.
مشارکت برابر نیز امکانات می‌خواهد: زمان، آموزش، دسترسی به اطلاعات قابل فهم، کارشناسان مستقل و پشتیبانی از حضور گروه‌های کم‌برخوردار. اگر فقط کسانی که وقت و منابع بیشتری دارند بتوانند شرکت کنند، شورا نیز ممکن است نابرابری موجود را بازتولید کند. هماهنگی در سطح شهر، منطقه و کشور لازم است تا تصمیم یک محل هزینه را به دیگران منتقل نکند.
تجربهٔ بودجه‌ریزی مشارکتی در پورتو آلگرهٔ برزیل، که از ۱۹۸۹ آغاز شد، نمونه‌ای از مشارکت شهروندان در تعیین اولویت‌های بخشی از بودجهٔ عمومی است. اهمیت آن نشان دادن امکان یک سازوکار عملی است؛ نه اثبات اینکه یک الگو همهٔ مسائل دموکراسی را حل کرده است. [۱]
مسکن: نمونه‌ای از اقتصاد هوشیار
فرض کنیم یک شهر بودجه‌ای محدود برای مسکن دارد. این مثال یک پیشنهاد برای توضیح سازوکار است. مستأجران، شوراهای محله، کارکنان و کارشناسان ابتدا نیازها و معیارها را تعیین می‌کنند: کاهش بی‌خانمانی، توان پرداخت، کیفیت ساخت و دسترسی به حمل‌ونقل. سپس گزینه‌هایی مانند تعمیر خانه‌های موجود، ساخت مسکن عمومی یا حمایت از تعاونی‌ها بررسی می‌شود.
هوش مصنوعی می‌تواند هزینه‌ها و سناریوها را مقایسه کند، آثار احتمالی را نشان دهد و اطلاعات پراکنده را برای بحث عمومی قابل استفاده کند. اما تعیین وزن نیازها و انتخاب اولویت‌ها بر عهدهٔ نهاد انسانیِ پاسخ‌گوست. فرض‌ها، کمبود داده و عدم قطعیت باید آشکار باشند؛ گزینه‌ها باید مستقل ارزیابی شوند و امکان اعتراض و اصلاح تصمیم وجود داشته باشد.
در اقتصاد هوشیار، دریافت اطلاعات تازه باید به یادگیری و اصلاح کمک کند، نه به نظارت دائمی بر زندگی اشخاص. شفافیتِ بودجه و قراردادها با افشای اطلاعات خصوصی مستأجران تفاوت دارد. دادهٔ لازم باید با حفاظت از حریم خصوصی گردآوری شود و نتایج اجرا نیز به‌طور دوره‌ای با اهداف اعلام‌شده سنجیده شوند.
بهره‌وری بیشتر؛ زمان آزادتر یا ناامنی بیشتر؟
اثر هوش مصنوعی بر اشتغال نتیجه‌ای از پیش تعیین‌شده ندارد. نوع فعالیت، سرعت تغییر، تقاضا، سیاست عمومی و قدرت چانه‌زنی کارکنان بر آن اثر می‌گذارند. بنابراین نمی‌توان هر افزایش بهره‌وری را برابر با حذف قطعی شغل دانست؛ همچنین نمی‌توان فرض کرد بازار خودبه‌خود منافع آن را عادلانه تقسیم خواهد کرد.
افزایش بهره‌وری می‌تواند به کاهش شمار کارکنان و تمرکز سود بینجامد. اما می‌توان برای اختصاص بخشی از آن به کاهش ساعت کار بدون کاهش دستمزد، آموزش همراه با تأمین درآمد و بهبود خدمات عمومی مبارزه کرد. این‌ها انتخاب‌های اجتماعی و مطالبات سیاسی‌اند، نه پیامدهای تضمین‌شدهٔ فناوری.
از این‌رو کارکنان و اتحادیه‌ها باید در تصمیم دربارهٔ خودکارسازی، ارزیابی الگوریتمی و چگونگی تقسیم دستاوردها نقش مؤثر داشته باشند. موضوع فقط سازگار کردن انسان با ماشین نیست؛ موضوع امکان شکل دادن جمعی به سازمان کار است.
زیرساخت هوش مصنوعی نیز موضوع تصمیم عمومی است
هوش مصنوعی به زیرساختی نیاز دارد که مصرف منابع آن واقعی است. آژانس بین‌المللی انرژی در گزارش ۲۰۲۶، مصرف برق کل مراکز داده را حدود ۴۸۵ تراوات‌ساعت در ۲۰۲۵ و در برآورد مرکزی حدود ۹۵۰ تراوات‌ساعت در ۲۰۳۰ اعلام می‌کند. این پیش‌بینی قطعی نیست و کل مراکز داده را شامل می‌شود، نه فقط سامانه‌های هوش مصنوعی. [۲]
گزارش ۲۰۲۴ آزمایشگاه لارنس برکلی نیز برای مراکز دادهٔ آمریکا در سال ۲۰۲۳ حدود ۶۶ میلیارد لیتر مصرف مستقیم آب و نزدیک به ۸۰۰ میلیارد لیتر ردپای غیرمستقیم آب، مرتبط با تولید برق، برآورد کرده است. این ارقام به‌تنهایی نبود مشارکت یا تمرکز مالکیت را اثبات نمی‌کنند؛ اما نشان می‌دهند ارزیابی عمومیِ هزینه‌ها و منافع اهمیت دارد. [۳]
پیش از تصویب یک پروژه باید مصرف آب و برق، آثار بر شبکه، شرایط زمین و هزینه‌هایی که ممکن است به مردم منتقل شود بررسی و منتشر شوند. ساکنان باید بتوانند دربارهٔ محل، شرایط و ضرورت پروژه اثر بگذارند. تصمیم‌های محلی نیز باید با مسئولیت در قبال منابع مشترک و مناطق دیگر همراه باشند.
دربارهٔ گرما باید میان انواع اندازه‌گیری تمایز گذاشت. یک پیش‌چاپ منتشرشده در مارس ۲۰۲۶ و بازبینی‌شده در آوریل، افزایش میانگین حدود ۲ درجهٔ سانتی‌گراد در دمای سطح زمین پیرامون مراکز بررسی‌شده را گزارش کرده است. این عدد، دمای هوای همهٔ محله‌ها نیست و نباید به هر مرکز داده تعمیم داده شود. انتشار در arXiv نیز به‌تنهایی تأیید داوری علمی محسوب نمی‌شود. برای هر محل به داده و ارزیابی مستقل نیاز داریم. [۴]
آزادی‌ها، شرط پایداری مشارکت
هیچ شورایی از خطر تمرکز قدرت مصون نیست. نمایندگان، مدیران یا کارشناسان ممکن است به گروهی تبدیل شوند که دسترسی به اطلاعات و تصمیم را در انحصار می‌گیرد. پیشگیری از این روند به نهادهای پایدار نیاز دارد: گردش مسئولیت، امکان عزل، نظارت مستقل، آشکار شدن تعارض منافع و حق به چالش کشیدن تصمیم.
رأی اکثریت نیز مجوز نقض حقوق پایه نیست. آزادی بیان، رسانه، حزب، تشکل، تجمع و اعتصاب، همراه با حریم خصوصی و حقوق اقلیت‌های مذهبی و جنسی، باید تضمین شوند. تصمیم عمومی باید در برابر مرجعی مستقل قابل اعتراض باشد. بدون حق مخالفت، مشارکت می‌تواند به اطاعت سازمان‌یافته تبدیل شود.
در سطح فناوری نیز باید توان بررسی مستقل و امکان توقف یا اصلاح سامانه‌های آسیب‌زا وجود داشته باشد. حسابرسی و حق اعتراض نباید فقط روی کاغذ باشند؛ نهاد مسئول باید منابع و اختیار اجرای آن‌ها را داشته باشد.
عصر آگاهی: یک امکان اجتماعی و یک وظیفه
در چارچوب «نظم اجتماعی نوین در عصر آگاهی»، آگاهی به معنای هوشیاری ماشین نیست. منظور، توان انسان‌ها برای پیوند دادن تجربهٔ روزمره با ساختارهای اجتماعی، گفت‌وگو دربارهٔ اهداف مشترک و تبدیل شناخت به کنش جمعیِ مسئولانه است. این فرایند با آموزش، آزادی نقد و تجربهٔ مشارکت رشد می‌کند.
آگاهی به‌تنهایی گذار اجتماعی را تضمین نمی‌کند. فناوری نیز خودبه‌خود آزادی نمی‌آورد. شکل‌گیری نظم تازه به تشکل، حقوق، نهادهای پاسخ‌گو و مبارزه بر سر مالکیت و تصمیم‌گیری نیاز دارد. جامعهٔ آگاه می‌تواند خطا کند؛ ارزش نهادهای دموکراتیک در توان یادگیری و اصلاح است.
از همین امروز می‌توان برای حضور مؤثر کارکنان در تصمیم‌های مربوط به کار، مشارکت ساکنان در پروژه‌های زیرساختی، حفاظت از داده‌های شخصی، توضیح و بازبینی انسانیِ تصمیم‌های الگوریتمی و توسعهٔ زیرساخت‌های عمومی و تعاونی تلاش کرد. این مطالبات می‌توانند چشم‌انداز اجتماعی را به تجربه‌های ملموس پیوند دهند.
از این رو، بحث ما نه وعدهٔ نجات خودکار به‌دست فناوری است و نه پیش‌گوییِ نابودی اجتناب‌ناپذیر. از هشدارهای ایمنی، نقد اقتصاد سیاسی و دفاع از دسترسی باز می‌آموزیم و بر یک پیوند تأکید می‌کنیم: اجتماعی بودن تولید باید با شکل‌های دموکراتیک مالکیت و مشارکت در قدرت همراه شود. آیندهٔ هوش مصنوعی از تعامل توانایی‌های فنی، مناسبات اجتماعی و کنش جمعی شکل می‌گیرد. آگاهی هنگامی به قدرت اجتماعی بدل می‌شود که مردم بتوانند هدف‌ها را تعیین کنند، دستاوردها را عادلانه تقسیم کنند و تصمیم‌ها را به چالش بکشند و اصلاح کنند.
منابع
[۱] بانک جهانی، Participatory Budgeting in Brazil — دربارهٔ تجربهٔ پورتو آلگره
[۲] آژانس بین‌المللی انرژی، Key Questions on Energy and AI، ۲۰۲۶
https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary
[۳] آزمایشگاه لارنس برکلی، 2024 United States Data Center Energy Usage Report
[۴] مارینونی و همکاران، The data heat island effect، پیش‌چاپ؛ نسخهٔ سوم، آوریل ۲۰۲۶
https://arxiv.org/abs/2603.20897v3
[۵] الیزر یودکوفسکی، مقالهٔ تایم، ۲۹ مارس ۲۰۲۳
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
[۶] جفری هینتون، گفت‌وگوهای منتشرشده در وب‌سایت نوبل
https://www.nobelprize.org/prizes/physics/2024/hinton/podcast/
[۷] داریو آمودی، «ماشین‌های فیضِ عاشقانه» و «نوجوانی فناوری»
https://darioamodei.com/essay/machines-of-loving-grace
https://darioamodei.com/essay/the-adolescence-of-technology
[۸] مارک آندریسن، مانیفست تکنو-خوش‌بین، اکتبر ۲۰۲۳
https://a16z.com/the-techno-optimist-manifesto/
[۹] مؤسسهٔ آیندهٔ حیات، نامهٔ توقف آزمایش‌های عظیم هوش مصنوعی، مارس ۲۰۲۳
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
[۱۰] کمیتهٔ قضایی سنای آمریکا، جلسهٔ نظارت بر هوش مصنوعی، ۱۶ مه ۲۰۲۳
[۱۱] بیانیهٔ بلچلی، نوامبر ۲۰۲۳
[۱۲] بندر، گبرو و همکاران، «طوطی‌های تصادفی»، ۲۰۲۱
https://dl.acm.org/doi/10.1145/3442188.3445922
[۱۳] کیت کرافورد، معرفی کتاب «اطلس هوش مصنوعی»
https://katecrawford.net/atlas
[۱۴] یان لکون، صفحهٔ شخصی و پیوندهای گفت‌وگو دربارهٔ مدل‌های باز و خطر هوش مصنوعی
چارچوب نظری: حمید اخوی، «نظم اجتماعی نوین در عصر آگاهی»
