فرسایش الگوریتمی: هوش مصنوعی، فرهنگ و روابط اجتماعی در سرمایه‌داری معاصر

چکیده: هوش مصنوعی و حکمرانی الگوریتمی نه‌فقط شیوهٔ کار، بلکه زبان، اعتماد، دوستی، هویت، دسترسی به اطلاعات و امکان کنش جمعی را بازآرایی می‌کنند. بااین‌حال، هوش مصنوعی سرنوشت نیست؛ جهت اجتماعی آن را مناسبات مالکیت، ساختار قدرت، هدف‌های اقتصادی و نهادهای تصمیم‌گیری تعیین می‌کنند.

فناوری درون مناسبات اجتماعی

دو روایت ساده‌انگارانه بر بحث عمومی سایه انداخته است: یکی هوش مصنوعی را راه‌حل خودکار بحران‌های اجتماعی و اقتصادی می‌بیند و دیگری آن را نیرویی مستقل و ناگزیر معرفی می‌کند که فرهنگ و روابط انسانی را نابود خواهد کرد. هر دو روایت نقش انسان، مالکیت و قدرت را پنهان می‌کنند. سامانه‌های هوش مصنوعی محصول کار جمعی پژوهشگران، برنامه‌نویسان، کارگران داده، تولیدکنندگان محتوا، کاربران و زیرساخت‌هایی هستند که غالباً با دانش و سرمایه‌گذاری عمومی ساخته شده‌اند.

جامعه در تولید داده و شناخت مشارکت دارد، اما کنترل داده، قدرت پردازش، تراشه، ابر، مدل و کانال توزیع در دست شمار محدودی از شرکت‌ها قرار گرفته است. این شکاف میان تولید اجتماعی شناخت و تمرکز خصوصی مالکیت و قدرت تصمیم‌گیری، نقطهٔ عزیمت تحلیل «فرسایش الگوریتمی» است.

سازوکارهای فرسایش الگوریتمی

نظارت و تبدیل انسان به نمایه

سامانه‌های داده‌محور رفتار انسان را به ویژگی، احتمال و امتیاز تبدیل می‌کنند. این نمایه‌ها می‌توانند بر محتوای دیده‌شده، قیمت، فرصت شغلی، دسترسی به اعتبار و شدت نظارت اثر بگذارند. زیان هنگامی بیشتر می‌شود که نظارت نامرئی، دائمی و غیرقابل‌اعتراض باشد و شرکت دربارهٔ فرد بسیار بداند، اما فرد از منطق طبقه‌بندی و هدف گردآوری داده آگاهی اندکی داشته باشد.

مدیریت الگوریتمی و فردی‌سازی ریسک

الگوریتم‌ها در کار پلتفرمی، خرده‌فروشی، انبارداری، حمل‌ونقل و مشاغل حرفه‌ای می‌توانند کار را تخصیص دهند، سرعت را بسنجند، شیفت را تنظیم کنند و دسترسی به کار را محدود سازند. درآمد نوسانی، اتصال دائمی و تعلیق خودکار، ریسک بنگاه را به فرد منتقل می‌کند و مسئلهٔ مشترک را به رقابت فردی بدل می‌سازد.

اقتصاد شهرت و مهندسی توجه

امتیازدهی همکاری میان غریبه‌ها را آسان می‌کند، اما اعتماد را نیز به عددی قابل‌محاسبه و گاه قابل‌دستکاری تقلیل می‌دهد. سامانه‌های توصیه‌گر نیز تعیین می‌کنند چه محتوایی برجسته، پنهان یا تکرار شود. وقتی موفقیت با «درگیری» سنجیده می‌شود، محتوای هیجانی و تفرقه‌افکن ممکن است مزیت پیدا کند. شواهد پژوهشی البته یکدست نیست و باید میان همبستگی، علیت و تفسیر ساختاری تمایز گذاشت.

پیامدهای اقتصادی، اجتماعی و فرهنگی

کنترل پلتفرمی از راه داده، اثرات شبکه‌ای و قواعد متمرکز می‌تواند بازار را به‌سوی انحصار ببرد. افزایش بهره‌وری نیز خودبه‌خود به رفاه همگانی نمی‌انجامد. اگر مالکیت دستاوردها خصوصی بماند و امنیت زندگی به اشتغال تمام‌وقت وابسته باشد، همان فناوری که با نیروی کمتر ثروت بیشتری تولید می‌کند می‌تواند بیکاری، کاهش قدرت چانه‌زنی و ناامنی را تشدید کند.

کالایی‌شدن زیرساخت معاشرت، انگیزه‌های تعامل را تغییر می‌دهد؛ شمار پسند، دنبال‌کننده و بازنشر می‌تواند جای کیفیت رابطه و گفت‌وگوی آهسته را بگیرد. در عین حال، پلتفرم‌ها برای مهاجران، اقلیت‌ها، گروه‌های پراکنده و جنبش‌های اجتماعی امکان پشتیبانی و سازمان‌دهی تازه‌ای فراهم کرده‌اند. پرسش انتقادی، انکار این فرصت‌ها نیست؛ بررسی توزیع فرصت، ریسک، سود و قدرت تصمیم‌گیری است.

راهبردهای کاهش آسیب

• محدودکردن نظارت نامتناسب و ممنوعیت استفاده از داده‌های حساس برای تصمیم‌های نامرتبط؛
• اعلام روشن معیارهای ارزیابی، حق دریافت توضیح قابل‌فهم و حق مراجعه به تصمیم‌گیر انسانی؛
• مشارکت کارگران و کاربران در ارزیابی و طراحی سامانه‌های پراثر؛
• حق اتحادیه‌ها، شوراهای محل کار و سازمان‌های مدنی برای دسترسی به اطلاعات و درخواست حسابرسی مستقل؛
• زیرساخت عمومی، تعاونی‌های پلتفرمی، امانت‌داری داده و سهم اجتماعی از ثروت دیجیتال؛
• تبدیل بهره‌وری به کاهش ساعات کار، خدمات عمومی، امنیت اجتماعی، آموزش و فرهنگ.

پیوند با «نظم اجتماعی نوین در عصر آگاهی»

کتاب، هوش مصنوعی را نمود برجسته‌ای از اجتماعی‌شدن تولید شناخت می‌داند. میلیون‌ها انسان داده، زبان، تصویر، تجربه و بازخورد تولید می‌کنند، اما حق مشارکت آنان در تصمیم‌گیری دربارهٔ این محصول جمعی با سهمشان در تولید آن متناسب نیست. گذار مطلوب از مشارکت در تولید شناخت به مشارکت در قدرت است.

این مشارکت بدون آزادی بیان، رسانه، پژوهش، تشکل، اتحادیه، اعتصاب و تجمع ممکن نیست. برنامه‌ریزی داده‌محور بدون این آزادی‌ها می‌تواند سلطه را دقیق‌تر کند. هوش مصنوعی باید ابزار تحلیل، شفافیت و تصمیم‌سازی باشد؛ نه منبع مشروعیت سیاسی و نه جایگزین داوری دموکراتیک.

پرسش تعیین‌کننده این نیست که هوش مصنوعی با انسان چه خواهد کرد؛ بلکه این است که جامعه با چه ساختار مالکیت و چه نهادهای تصمیم‌گیری، این ظرفیت را به سود چه کسانی جهت خواهد داد.

بازگشت به صفحهٔ اصلی