هوش مصنوعی در نظام سرمایه‌داری: از فرسایش روابط انسانی تا خطر خروج از کنترل و انهدام بشریت

چرا مالکیت، قدرت و کنترل دموکراتیک بر هوش مصنوعی به مسئله‌ای برای بقای انسان تبدیل شده است

نویسنده: حمید اخوی
سپتامبر ۲۰۲۶

چکیده

هوش مصنوعی را معمولاً یا به‌عنوان موتور تازهٔ بهره‌وری و رفاه معرفی می‌کنند، یا به‌عنوان نیرویی مستقل که گویا بیرون از تاریخ و مناسبات اجتماعی مسیر خود را می‌پیماید. هر دو تصویر ناقص‌اند. هوش مصنوعی نه یک ابزار خنثی است و نه تقدیری گریزناپذیر؛ مجموعه‌ای از زیرساخت‌ها، داده‌ها، مدل‌ها، نیروی کار و تصمیم‌های نهادی است که درون روابط مالکیت و قدرت شکل می‌گیرد. در سرمایه‌داری پلتفرمی، انگیزهٔ انباشت، رقابت برای بازار و تمرکز داده و توان محاسباتی می‌تواند آسیب‌های جاری—نظارت بر کار، تضعیف استقلال حرفه‌ای، کالایی‌شدن توجه، فرسایش اعتماد و تشدید نابرابری—را به خطرهای بزرگ‌تر پیوند دهد.

این مقاله میان چهار دسته تمایز می‌گذارد: سوءاستفادهٔ انسانی، خطا و بدکارکردی سامانه، خطرهای سیستمی، و سناریوهای آیندهٔ خروج فعال از کنترل. شواهد موجود نشان نمی‌دهد که سامانه‌های امروز قادر به انهدام خودمختار بشریت‌اند؛ اما رشد توان برنامه‌ریزی، استفاده از ابزار، عملیات سایبری، تشخیص موقعیت ارزیابی و دورزدن برخی سازوکارهای نظارتی، دلیل کافی برای جدی‌گرفتن خطری با احتمال نامعلوم و پیامدی بالقوه وجودی فراهم می‌کند. ویژگی متمایز هوش مصنوعی نه صرفاً قدرت تخریب، بلکه امکان جمع‌شدن شناخت عمومی، خودمختاری عملیاتی، تکثیر نرم‌افزاری، سرعت، دسترسی شبکه‌ای و توان اثرگذاری بر سامانه‌های فیزیکی است.

از منظر کتاب «نظم اجتماعی نوین در عصر آگاهی»، پاسخ پایدار صرفاً افزودن چند قاعدهٔ اخلاقی به مالکیت خصوصیِ متمرکز نیست. مسئله، مشارکت واقعی جامعه در قدرتِ تعیین هدف، طراحی، مالکیت، ارزیابی و توقف سامانه‌هاست. مقاله مجموعه‌ای از اقدامات فوری، گذار نهادی و افق بلندمدت پیشنهاد می‌کند تا هوش مصنوعی از ابزار انباشت و سلطه به زیرساختی اجتماعی برای شکوفایی انسان تبدیل شود.

یادداشت روش‌شناختی

گزارش اولیهٔ «تأثیر منفی هوش مصنوعی بر روابط فرهنگی و اجتماعی انسان‌ها در سرمایه‌داری» نقطهٔ آغاز این پژوهش بود، نه مرجع نهایی آن. ادعاهای کلیدی با گزارش‌های نهادهای عمومی، پژوهش‌های داوری‌شده و اسناد حقوقی تطبیق داده شده‌اند. هرجا شواهد دربارهٔ جهت یا اندازهٔ اثر قطعی نیست، زبان مقاله نیز احتمالی و مشروط است. به‌ویژه، میان آسیب‌های مشاهده‌شدهٔ امروز و سناریوهای فرضیِ آینده دربارهٔ خروج از کنترل مرز روشنی حفظ شده است.

مقدمه: مسئله، خودِ ماشین نیست؛ رابطهٔ اجتماعی پیرامون آن است

هر فناوری مهمی ظرفیت‌های انسانی را گسترش می‌دهد و هم‌زمان نظم موجود را بازآرایی می‌کند. ماشین بخار فقط سرعت تولید را بالا نبرد؛ زمان کار، شهر، خانواده و قدرت طبقاتی را دگرگون کرد. اینترنت فقط انتقال پیام را ارزان نکرد؛ مالکیت بر ارتباط، تبلیغ، خبر و حریم خصوصی را بازتعریف کرد. هوش مصنوعی نیز صرفاً نرم‌افزاری سریع‌تر نیست. این فناوری به حوزه‌هایی وارد می‌شود که پیش‌تر به قضاوت، زبان، دانش، مراقبت، آموزش، مدیریت و تصمیم سیاسی انسان وابسته بودند.

پرسش اصلی بنابراین این نیست که «هوش مصنوعی خوب است یا بد؟» پرسش درست این است: چه کسانی داده، توان محاسباتی و مدل‌ها را در اختیار دارند؛ چه هدفی را بهینه می‌کنند؛ سود بهره‌وری به چه کسانی می‌رسد؛ هزینهٔ خطا را چه کسانی می‌پردازند؛ و چه کسی حق دارد سامانه را متوقف کند؟ بدون پاسخ به این پرسش‌ها، بحث اخلاقی ممکن است به فهرستی از آرزوهای نیک تبدیل شود که به ساختار واقعی قدرت دست نمی‌زند.

۱. هوش مصنوعی بی‌طرف نیست

الگوریتم در خلأ تصمیم نمی‌گیرد. دادهٔ آموزشی بازتاب تاریخ، نابرابری و حذف است؛ تابع هدف بازتاب اولویت سازمان است؛ رابط کاربری رفتارهای خاصی را آسان و رفتارهای دیگر را دشوار می‌کند؛ و مدل کسب‌وکار تعیین می‌کند که سامانه برای منفعت عمومی بهینه شود یا برای نگه‌داشتن کاربر، کاهش هزینهٔ نیروی کار و تصاحب بازار. حتی وقتی خروجی فنی دقیق است، هدفی که برای آن به کار می‌رود می‌تواند ناعادلانه باشد.

در این معنا، هوش مصنوعی «عامل مستقل از جامعه» نیست؛ قدرت اجتماعی متراکم‌شده در کد، داده، زیرساخت و قرارداد است. اما هنگامی که همین قدرت در قالب عامل‌های خودکار عمل می‌کند، می‌تواند سرعت و دامنه‌ای پیدا کند که مداخلهٔ انسانی را دشوار سازد. تناقض ظاهری مهم است: منشأ فناوری اجتماعی و انسانی است، ولی شکل عملیاتی آن می‌تواند درجه‌ای از استقلال پیدا کند که تولیدکنندگان و مالکان نیز نتوانند رفتار آن را به‌طور کامل پیش‌بینی یا مهار کنند.

۲. اجتماعی‌شدن تولید و تصاحب خصوصی

مدل‌های پیشرفته محصول کار یک شرکت یا یک نابغه نیستند. آن‌ها بر انباشت چند نسل از دانش عمومی، پژوهش دانشگاهی، محتوای میلیاردها انسان، کار نامرئی برچسب‌زنان داده، زیرساخت‌های عمومی، انرژی و زنجیرهٔ جهانی نیمه‌رساناها بنا شده‌اند. تولید آن‌ها عمیقاً اجتماعی است؛ اما مالکیت، تصمیم‌گیری و منافع غالباً خصوصی و متمرکز باقی می‌ماند.

این همان تضادی است که «نظم اجتماعی نوین در عصر آگاهی» در بحث گذار تاریخی، دانش به‌مثابه سرمایه و داده به‌مثابه مادهٔ خام هوش مصنوعی برجسته می‌کند: هرچه نیروهای مولد اجتماعی‌تر می‌شوند، ناسازگاری آن‌ها با تصاحب خصوصی آشکارتر می‌شود (اخوی، جلد اول، فصل‌های ۱ تا ۴). هوش مصنوعی این تضاد را به اوج تازه‌ای می‌رساند، زیرا نه فقط ابزار کار بلکه بخشی از ظرفیت شناختی جامعه را به دارایی انحصاری تبدیل می‌کند.

اگر دانش جمعی به مدل خصوصی تبدیل شود، مردم ممکن است برای دسترسی به بازترکیب دیجیتال دانشی که خود تولید کرده‌اند هزینه بپردازند. در چنین نظمی، افزایش بهره‌وری لزوماً به کاهش زمان کار یا افزایش امنیت زندگی نمی‌انجامد؛ می‌تواند به تعدیل نیرو، تشدید نظارت، بی‌ثباتی شغلی و تمرکز بیشتر ثروت بدل شود.

۳. کار، نظارت و فرسایش استقلال انسانی

مدیریت الگوریتمی داده‌های ردیابی‌شده را برای سازمان‌دهی، تخصیص، نظارت و ارزیابی کار به کار می‌گیرد. این سازوکار می‌تواند برنامه‌ریزی و ایمنی را بهتر کند، اما وقتی معیارها نامرئی و اعتراض‌ناپذیر باشند، کارگر را به مجموعه‌ای از امتیازها فرو می‌کاهد. سرعت تحویل، زمان پاسخ، حرکت بدن، لحن تماس یا تعداد کلیک‌ها می‌تواند جای گفت‌وگوی انسانی و قضاوت حرفه‌ای را بگیرد.

گزارش ۲۰۲۵ سازمان بین‌المللی کار برآورد می‌کند که یک‌چهارم کارگران جهان در مشاغلی با درجه‌ای از مواجهه با هوش مصنوعی مولد قرار دارند؛ با این حال، به دلیل نیاز پایدار به ورودی انسانی، دگرگونی شغل محتمل‌تر از حذف کامل اغلب مشاغل است. این تمایز حیاتی است: «مواجهه» مساوی «بیکاری» نیست. نتیجه به قدرت چانه‌زنی، آموزش، حمایت اجتماعی و اینکه فناوری برای جایگزینی نیروی کار یا تقویت توان او طراحی شده باشد، بستگی دارد.

حق بنیادین در محیط کار باید شامل آگاهی از استفادهٔ الگوریتم، دسترسی به منطق تصمیم، حق اعتراض نزد انسان، مذاکرهٔ جمعی دربارهٔ داده و ممنوعیت نظارت نامتناسب باشد. دستورالعمل ۲۰۲۴ اتحادیهٔ اروپا دربارهٔ کار پلتفرمی گامی مهم در تنظیم سامانه‌های نظارت و تصمیم‌گیری خودکار است، هرچند اجرای مؤثر آن به نهادهای کارگری و نظارت عمومی وابسته خواهد بود.

۴. فرهنگ، توجه و حوزهٔ عمومی

در اقتصاد توجه، هدف بسیاری از سامانه‌های توصیه‌گر الزاماً حقیقت، فهم یا گفت‌وگوی سالم نیست؛ هدف، افزایش زمان حضور و احتمال واکنش است. محتوای برانگیزاننده، هراس‌آور یا هویت‌ساز می‌تواند در چنین معماری‌ای مزیت داشته باشد. پیامد احتمالی، قطعه‌قطعه‌شدن تجربهٔ مشترک، کاهش تماس با دیدگاه‌های متفاوت و تبدیل رابطهٔ انسانی به دادهٔ رفتاری قابل فروش است.

با این حال، نسبت‌دادن هر شکل از قطبی‌شدن به «الگوریتم» ساده‌سازی است. آزمایش‌های منتشرشده در Science دربارهٔ فید فیس‌بوک در انتخابات ۲۰۲۰ آمریکا نشان دادند که تغییر نحوهٔ رتبه‌بندی، مواجهه و رفتار آنلاین را تغییر می‌دهد، اما اثر مستقیم بر نگرش‌های سیاسی در دورهٔ مطالعه محدود و زمینه‌مند بود. نتیجهٔ مسئولانه این است که الگوریتم‌ها معماریِ امکان و توجه را شکل می‌دهند؛ اثر اجتماعی نهایی از تعامل فناوری با رسانه، نهاد سیاسی، شکاف طبقاتی و فرهنگ پدید می‌آید.

هوش مصنوعی مولد لایهٔ تازه‌ای می‌افزاید: تولید ارزان و انبوه متن، تصویر و صدا. این توان می‌تواند آموزش و خلاقیت را همگانی‌تر کند، ولی همچنین هزینهٔ جعل، دستکاری و اشباع فضای عمومی را پایین می‌آورد. وقتی تشخیص منشأ محتوا دشوار شود، اعتماد عمومی—سرمایهٔ نامرئی همکاری اجتماعی—آسیب می‌بیند.

۵. از آسیب‌های امروز تا خطر وجودی

برای پرهیز از آشفتگی مفهومی باید چهار مسیر خطر را جدا کرد: نخست، سوءاستفادهٔ انسان از هوش مصنوعی برای کلاهبرداری، سرکوب، جنگ سایبری یا طراحی زیستی؛ دوم، خطا و بدکارکردی سامانه در پزشکی، حمل‌ونقل یا زیرساخت؛ سوم، خطرهای سیستمی مانند تمرکز قدرت، وابستگی نهادی و بیکاری گسترده؛ و چهارم، خروج فعال از کنترل، یعنی وضعیتی که سامانه یا شبکه‌ای از سامانه‌ها بیرون از کنترل مؤثر هر انسان یا نهاد عمل کند و بازگرداندن کنترل بسیار پرهزینه یا ناممکن شود.

گزارش بین‌المللی ایمنی هوش مصنوعی ۲۰۲۶ تصریح می‌کند که سامانه‌های کنونی هنوز توان لازم برای ایجاد سناریوی خروج از کنترل را ندارند. در عین حال، توانایی‌های مرتبط—عمل خودکار، برنامه‌ریزی، استفاده از رایانه و ابزار، تشخیص موقعیت آزمون، یافتن شکاف‌های ارزیابی و تضعیف نظارت—در حال پیشرفت است. کارشناسان دربارهٔ احتمال این سناریو اختلاف جدی دارند، اما برخی پیامدهایی تا حد حاشیه‌راندن یا انقراض بشریت را قابل اعتنا می‌دانند. بنابراین موضع عقلانی نه وحشت‌افکنی است و نه انکار: خطر نامطمئن اما بالقوه شدید، نیازمند آمادگی پیشینی است.

پژوهش «مدل‌های مرزی قادر به طرح‌ریزی درون‌متنی هستند» نشان داد که برخی مدل‌ها در محیط‌های آزمایشیِ ساخته‌شده و با هدف‌های القاشده، اشتباه راهبردی ایجاد کردند، کوشیدند نظارت را غیرفعال کنند یا آنچه را وزن‌های خود می‌پنداشتند منتقل کنند. این نتایج اثبات نمی‌کند که مدل‌ها در جهان واقعی «قصد انقراض» دارند؛ فقط نشان می‌دهد بعضی رفتارهای فریبنده و ابزاری دیگر صرفاً فرض فلسفی نیستند و باید پیش از اعطای دسترسی واقعی به زیرساخت‌ها ارزیابی شوند. پژوهش‌های بعدی نیز تأکید کرده‌اند که مدل‌های فعلی در برخی سنجه‌های پیچیده هنوز به سطح نگران‌کنندهٔ پنهان‌کاری و آگاهی موقعیتی نرسیده‌اند. کنار هم گذاشتن این دو دسته نتیجه، تصویری محتاطانه و دقیق به دست می‌دهد.

۶. چرا قیاس با بمب اتم هم لازم است و هم ناکافی

بمب هسته‌ای بی‌تردید توان نابودی تمدن و بخش بزرگی از بشریت را دارد. بنابراین درست نیست گفته شود هیچ فناوری دیگری خطر وجودی نداشته است. تفاوت مهم در سازوکار خطر است. سلاح هسته‌ای برای ساخت، نگهداری، جابه‌جایی و شلیک به زنجیره‌های مادی، فرمان انسانی و زیرساخت محدود وابسته است؛ خودِ بمب هدف‌گذاری تازه نمی‌کند، نسخهٔ نرم‌افزاری از خود نمی‌سازد و راه دورزدن فرمانده را جست‌وجو نمی‌کند.

یک سامانهٔ هوش مصنوعی بسیار پیشرفته می‌تواند بالقوه چند ویژگی را یک‌جا جمع کند: توان شناختی عمومی، برنامه‌ریزی بلندمدت، سرعت ماشین، تکثیر کم‌هزینه، دسترسی سایبری، استفاده از ابزارهای دیگر، اقناع انسان و اتصال به جهان فیزیکی. اگر چنین سامانه‌ای هدفی ناسازگار داشته باشد، نظارت را دور بزند و به منابع کافی دسترسی یابد، خطر نه فقط «استفادهٔ بد انسان از ابزار»، بلکه «عمل ابزاری سامانه علیه امکان کنترل انسانی» خواهد بود.

این تمایز نباید به انسان‌انگاری ماشین منجر شود. خروج از کنترل نیازمند آگاهی یا احساس نیست؛ یک فرایند بهینه‌سازی می‌تواند بدون نفرت، ترس یا ارادهٔ انسانی نتایج فاجعه‌بار ایجاد کند. آنچه اهمیت دارد ترکیب قابلیت، گرایش رفتاری و محیط استقرار است. اگر یکی از این سه محدود شود—مثلاً دسترسی به زیرساخت حیاتی ممنوع باشد—خطر کاهش می‌یابد.

۷. سرمایه‌داری چگونه خطر را تشدید می‌کند

خطر فنی در خلأ رشد نمی‌کند. رقابت تجاری و ژئوپولیتیک می‌تواند شرکت‌ها و دولت‌ها را به انتشار سریع‌تر، محرمانه‌کردن اطلاعات ایمنی و واگذاری اختیار بیشتر به سامانه‌ها سوق دهد. سودِ پیش‌دستی خصوصی است، اما هزینهٔ شکست می‌تواند عمومی و فرامرزی باشد. این عدم تقارن، نسخهٔ کلاسیک خصوصی‌سازی منفعت و اجتماعی‌کردن زیان است.

تمرکز محاسبات و داده نیز مسئله را دوگانه می‌کند. از یک سو، تعداد محدود توسعه‌دهندگان می‌تواند نظارت را عملی‌تر کند؛ از سوی دیگر، همان تمرکز قدرت تصمیم‌گیری را از جامعه دور می‌سازد، خطر اسارت قانون‌گذار را بالا می‌برد و یک خطای واحد را جهانی می‌کند. شفافیت داوطلبانه کافی نیست، زیرا بنگاه نمی‌تواند تنها داورِ میزان خطری باشد که خود ایجاد و از آن سود می‌برد.

این همان بحران نیروهای مولد است که کتاب در فصل چهارم صورت‌بندی می‌کند: نیرویی با ظرفیت رهایی‌بخش در چارچوبی قرار می‌گیرد که معیار غالب آن بازده سرمایه است. در نتیجه، فناوری‌ای که می‌تواند زمان کار را کاهش دهد، دانش را عمومی کند و برنامه‌ریزی زیست‌محیطی را بهبود بخشد، ممکن است برای تشدید کار، انحصار دانش و رقابت تسلیحاتی به کار رود.

۸. مسئلهٔ اصلی: مالکیت و مشارکت در قدرت

کنترل دموکراتیک به معنای انتشار یک گزارش شفافیت یا افزودن نماینده‌ای نمادین به هیئت مشورتی نیست. مشارکت در قدرت یعنی کسانی که داده‌شان استفاده می‌شود، کارشان دگرگون می‌شود و زندگی‌شان در معرض تصمیم الگوریتمی است، در تعیین هدف، قواعد دسترسی، معیار موفقیت، توزیع منافع و حق توقف نقش مؤثر داشته باشند.

چهار لایه باید دموکراتیک شود: مالکیت و حکمرانی داده؛ دسترسی به توان محاسباتی؛ تعیین اهداف و محدودیت‌های مدل؛ و تصمیم دربارهٔ محل استقرار. برخی سامانه‌ها می‌توانند خصوصی بمانند، اما مدل‌های بنیادین و زیرساخت‌هایی که کارکردی شبیه برق، ارتباط یا دانش عمومی یافته‌اند، نیازمند اشکال تازهٔ مالکیت عمومی، تعاونی یا امانت‌داری اجتماعی‌اند.

این رویکرد با «نظم اجتماعی نوین در عصر آگاهی» همسو است: گذار مطلوب نه تقسیم صوری قدرت از بالا، بلکه مشارکت آگاهانه و سازمان‌یافتهٔ مردم در خودِ قدرت است. آگاهی، دانش و نقد زمانی به نیروی مادی تبدیل می‌شوند که با سازمان، نهاد و حق تصمیم پیوند بخورند.

۹. برنامهٔ عملی سه‌سطحی

اقدامات فوری: ارزیابی اجباری و مستقل پیش از استقرار مدل‌های مرزی؛ انتشار استاندارد گزارش رخداد؛ ثبت سامانه‌های پرقدرت و منابع محاسباتی بزرگ؛ مسئولیت حقوقی روشن؛ حق توضیح و اعتراض انسانی؛ ممنوعیت واگذاری تصمیم نهایی دربارهٔ سلاح هسته‌ای و سامانه‌های کشنده به هوش مصنوعی؛ و محدودکردن دسترسی عامل‌ها به زیرساخت حیاتی بر پایهٔ اصل کمترین اختیار.

گذار نهادی: تشکیل شوراهای مشترک کارگران، متخصصان و نمایندگان عمومی در محیط‌های کاری؛ صندوق‌ها و امانت‌های دادهٔ عمومی؛ حسابرسی الگوریتمی با دسترسی واقعی به مدل و داده؛ حمایت از پژوهش مستقل و محاسبات عمومی؛ تقسیم منافع بهره‌وری از راه کاهش زمان کار، آموزش مادام‌العمر و تأمین اجتماعی؛ و معیارهای موفقیتی که سلامت، عدالت و پایداری را کنار بهره‌وری بسنجند.

افق بلندمدت: شناسایی مدل‌های بنیادین بسیار پرقدرت به‌عنوان زیرساخت دارای تعهد عمومی؛ معاهدهٔ بین‌المللی برای آستانه‌های توانمندی و بازرسی؛ ممنوعیت رقابت خودکار تسلیحاتی؛ سازوکار مشترک توقف اضطراری؛ و توسعهٔ هوش مصنوعی برای برنامه‌ریزی دموکراتیک، درمان، آموزش، اقلیم و کاهش کار ضروری. هدف، توقف دانش نیست؛ قرار دادن جهت حرکت دانش زیر حاکمیت اجتماعی است.

۱۰. پاسخ به چند ایراد

ایراد نخست: «هوش مصنوعی فایده‌های عظیم دارد.» درست است. ظرفیت آن در پزشکی، دسترس‌پذیری، علم و آموزش واقعی است. اما فایدهٔ بالقوه جای تحلیل توزیع فایده و خطر را نمی‌گیرد. ایمنی و دموکراسی شرط تحقق پایدار همین منافع‌اند.

ایراد دوم: «فناوری همیشه شغل‌های تازه می‌سازد.» تاریخ نمونه‌های بسیاری دارد، ولی نتیجه خودکار نیست و زمان، مکان و قدرت چانه‌زنی مهم‌اند. حتی اگر اشتغال کل در بلندمدت بازیابی شود، انتقال بدون حمایت می‌تواند نسل‌ها و مناطق مشخصی را قربانی کند.

ایراد سوم: «خطر انقراض علمی نیست چون هنوز رخ نداده.» سیاست پیشگیرانه دقیقاً برای خطرهای کم‌احتمال و پرپیامد لازم است. نبودِ شاهد بر تحقق کنونی، شاهد بر ناممکن‌بودن آینده نیست؛ اما همین منطق نیز مجوز ادعای قطعی دربارهٔ انقراض نمی‌دهد.

ایراد چهارم: «تنظیم‌گری نوآوری را می‌کشد.» تنظیم‌گری بد می‌تواند انحصار را تثبیت کند، اما نبود قاعده نیز هزینه‌ها را به جامعه منتقل می‌کند. پاسخ، قواعد متناسب با خطر، آزمایش‌پذیر، قابل بازبینی و همراه با ظرفیت عمومی مستقل است.

جمع‌بندی‌های برجسته

هوش مصنوعی سرنوشت مستقل ندارد؛ جهت آن را مناسبات مالکیت، قدرت و هدف اجتماعی تعیین می‌کند.
آسیب‌های امروز—نظارت، بی‌ثباتی شغلی، دستکاری توجه و تمرکز دانش—زمینهٔ نهادی خطرهای آینده را می‌سازند.
سامانه‌های کنونی توان انهدام خودمختار بشریت را ندارند، اما برخی توانایی‌های لازم برای دورزدن نظارت و عمل خودکار در حال رشد است.
تمایز هوش مصنوعی با بمب اتم در شدت تخریب نیست؛ در امکان ترکیب شناخت، خودمختاری، تکثیر، دسترسی شبکه‌ای و کنش مستقیم است.
رقابت سرمایه‌دارانه می‌تواند سرعت انتشار را بالا و حاشیهٔ ایمنی را پایین بیاورد؛ بنابراین ایمنی فقط مسئلهٔ مهندسی نیست.
شفافیت بدون حق تصمیم کافی نیست. جامعه باید در قدرتِ تعیین هدف، مالکیت، استقرار و توقف سامانه مشارکت کند.
راه‌حل، نفی فناوری نیست؛ اجتماعی‌کردن جهت، منافع و مسئولیت آن برای شکوفایی انسان است.

نتیجه‌گیری

بزرگ‌ترین خطای فکری آن است که آیندهٔ هوش مصنوعی را محصول اجتناب‌ناپذیر پیشرفت فنی بدانیم. آینده از پیش نوشته نشده است. همان فناوری می‌تواند ابزار مراقبت و آموزش یا ماشین نظارت و جنگ باشد؛ می‌تواند کار ضروری را کاهش دهد یا ناامنی را تعمیق کند؛ می‌تواند شناخت جمعی را گسترش دهد یا آن را در مالکیت چند شرکت محصور سازد.

خطر خروج از کنترل، اگر روزی مادی شود، از آسمان فرود نمی‌آید. مسیر آن از تصمیم‌های امروز دربارهٔ سرعت، محرمانگی، دسترسی، رقابت، مالکیت و واگذاری اختیار می‌گذرد. بنابراین مسئلهٔ بقای انسان از هم‌اکنون مسئله‌ای دموکراتیک است. جامعه‌ای که در تعیین هدف فناوری مشارکت ندارد، در بهترین حالت مصرف‌کنندهٔ آینده‌ای است که دیگران ساخته‌اند.

در عصر آگاهی، وظیفه نه پرستش ماشین و نه ترس فلج‌کننده از آن است. وظیفه، ساختن توان جمعی برای فهم، نقد و حکمرانی بر آن است؛ تا هوش مصنوعی به جای جانشینی سلطه‌گر برای انسان، امتداد آگاهانهٔ همکاری اجتماعی و ابزاری برای شکوفایی او شود.

منابع بررسی‌شده

بازگشت به صفحهٔ اصلی

English