فارسی English
راهنمایی غیرفنی دربارهٔ سازوکار هوش مصنوعی، تواناییها و محدودیتهای آن، و اهمیت مالکیت و کنترل دموکراتیک
ایدهٔ اصلی
هوش مصنوعی، به معنای انسانی کلمه، یک ماشینِ متفکر نیست. هوش مصنوعی خانوادهای از روشهای رایانهای است که الگوها را در دادهها پیدا میکند و از آن الگوها برای طبقهبندی، پیشبینی، پیشنهاد یا تولید یک خروجی بهره میگیرد. برای نمونه، یک مدل زبانی متن را با تخمینزدن واحدهای زبانیای تولید میکند که احتمال دارد پس از متن قبلی بیایند. روانی و شیوایی پاسخ میتواند چشمگیر باشد، اما شیوایی بهخودیِ خود نشانهٔ حقیقت، فهم یا داوری نیست.
هوش مصنوعی فقط نرمافزار هم نیست. هر سامانه به انسانها، دادهها، برق، تراشهها، مراکز داده، شبکههای ارتباطی و نهادهایی وابسته است که هدف آن را تعیین میکنند. بنابراین، شناخت هوش مصنوعی نیازمند طرح همزمان دو پرسش است: این فناوری چگونه کار میکند؟ و مالکیت و هدایت آن در دست چه کسانی است، چه کسانی از آن سود میبرند و چه کسانی هزینههایش را میپردازند؟ پرسش دوم، فناوری را مستقیماً به بحث کتاب «نظم اجتماعی نوین در عصر آگاهی» پیوند میدهد.
یک نقشهٔ ساده از سامانهٔ هوش مصنوعی
| بخش | معنای ساده | نمونهٔ روزمره |
|---|---|---|
| داده | نمونههایی که برای ساخت یا اجرای سامانه به کار میروند | متن، تصویر، پروندهٔ پزشکی یا اندازهگیری ترافیک |
| الگوریتم | روشی برای یافتن یا بهکارگیری الگوها | دستورالعملی برای تنظیم مدل پس از خطا |
| مدل | الگوی ریاضی آموختهشده پس از آموزش | فیلتر هرزنامه یا مدل زبانی |
| آموزش | مرحلهٔ یادگیری که معمولاً منابع زیادی مصرف میکند | ارائهٔ نمونهها و تنظیم پارامترهای داخلی |
| استنتاج | بهکارگیری مدل آموزشدیده برای ورودی تازه | پاسخدادن به دستور یا تشخیص تصویر |
| خروجی | پیشبینی، رتبهبندی، اقدام یا محتوای تولیدشده | مسیر، پیشنهاد، امتیاز خطر یا یک بند متن |
ماشین چگونه از نمونهها میآموزد
در برنامهنویسی معمولی، انسان قواعد مشخص را مینویسد. در یادگیری ماشین، انسانها فرایند یادگیری را طراحی و دادهها را فراهم میکنند؛ سپس سامانه شمار زیادی مقدار عددی، موسوم به پارامتر، را تنظیم میکند تا پیشبینیهایش با نمونهها سازگارتر شود. حاصل این فرایند یک مدل است. «یادگیری» در اینجا به معنای تنظیم ریاضی است، نه تجربه یا آگاهی انسانی.
یادگیری نظارتشده
نمونههای آموزشی دارای پاسخ یا برچسب هستند. برای مثال، یک مدل میتواند با پیامهایی آموزش ببیند که «هرزنامه» یا «غیرهرزنامه» برچسب خوردهاند. مدل باید با نمونههایی سنجیده شود که در آموزش ندیده است؛ زیرا حفظکردن دادههای آموزشی با کارکرد قابل اعتماد در جهان واقعی یکسان نیست.
یادگیری بدون نظارت و خودنظارتی
روشهای بدون نظارت، بدون برچسبهای پاسخِ تهیهشده به دست انسان، به دنبال ساختار موجود در دادهها میگردند؛ مانند گروهبندی مشتریان مشابه. در یادگیری خودنظارتی، سامانه از خودِ دادهها علامت آموزشی میسازد. یک مدل زبانی میتواند بخشی از جمله را پنهان کند و پیشبینی متن حذفشده را بیاموزد. این روش نیاز به برچسبگذاری دستی را کاهش میدهد، اما انتخابهای انسانی دربارهٔ داده، هدف، پالایش و ارزیابی را از میان نمیبرد.
یادگیری تقویتی
سامانه اقدامهایی را امتحان میکند و یک علامت پاداش دریافت میکند. سپس به سوی اقدامهایی تنظیم میشود که پاداش بیشتری میگیرند. معیار پاداش را انسانها طراحی یا انتخاب میکنند؛ بنابراین یک هدف ناقص ممکن است رفتار ناخواسته ایجاد کند. بازخورد انسانی نیز میتواند برای مفیدتر یا ایمنترکردن یک مدل زبانی به کار رود.
یادگیری عمیق و شبکههای عصبی
شبکهٔ عصبی یک مدل ریاضی چندلایه است. یادگیری عمیق از لایههای متعدد برای آموختن الگوهای پیچیده در تصویر، صدا، زبان یا دادههای دیگر استفاده میکند. واژهٔ «عصبی» فقط قیاسی با نورونهای زیستی است؛ این سامانهها مغزهای کوچک الکترونیکی نیستند.
هوش مصنوعی مولد و مدلهای زبانی چگونه کار میکنند
هوش مصنوعی مولد ترکیبهای تازهای از متن، تصویر، صدا، ویدئو یا کُد میسازد. مدل زبانی بزرگ با مجموعههای عظیم زبان آموزش میبیند و روابط آماری میان توکنها را میآموزد. توکن ممکن است یک واژه، بخشی از واژه، نشانهٔ سجاوندی یا واحدی دیگر باشد. مدل پس از دریافت دستور، بارها توکن بعدیِ محتمل را پیشبینی میکند. همین ویژگی هم توانایی گستردهٔ آن را توضیح میدهد و هم یکی از ضعفهای اصلیاش را: جملهٔ محتمل لزوماً جملهٔ درست نیست.
ترنسفورمر
ترنسفورمر معماری زیربنایی بسیاری از مدلهای زبانی جدید است. سازوکار «توجه» در آن به مدل امکان میدهد رابطهٔ بخشهای مختلف ورودی را با وزنهای متفاوت محاسبه کند. مقالهٔ اثرگذار «توجه تنها چیزی است که نیاز دارید» در سال ۲۰۱۷ این معماری را معرفی کرد. توجه در اینجا یک عملیات ریاضی است، نه توجه یا آگاهی انسانی.
تعبیهسازی
تعبیهسازی یک مورد، مانند واژه، بند یا تصویر، را به فهرستی از اعداد تبدیل میکند و موارد مشابه را در یک فضای ریاضی نزدیک یکدیگر قرار میدهد. این روش جستوجوی معنایی، به جای تطبیق دقیق واژهها، را ممکن میکند؛ اما شباهت به معنای حقیقت یا انصاف نیست.
مدل بنیادین و تنظیم تخصصی
مدل بنیادین بهطور گسترده آموزش میبیند و میتوان آن را برای کارهای گوناگون سازگار کرد. در تنظیم تخصصی، آموزش مدل با مجموعهای کوچکتر و تخصصیتر ادامه مییابد. بنابراین یک مدل پایه میتواند زیربنای کاربردهای متفاوت باشد، اما هر کاربرد همچنان باید برای کاربران و شرایط واقعی خود آزمایش شود.
مهندسی دستور و مهندسی زمینه
دستور یا پرامپت، ورودیای است که به مدل داده میشود. مهندسی دستور، عبارتبندی و ساختار این ورودی را بهبود میدهد. مهندسی زمینه گستردهتر است و اسناد مرتبط، ابزارها، حافظه، قواعد و محدودیتها را در اختیار مدل میگذارد. زمینهٔ بهتر میتواند نتیجه را بهبود دهد، اما درستی آن را تضمین نمیکند.
تولید تقویتشده با بازیابی
در «تولید تقویتشده با بازیابی» یا RAG، سامانه ابتدا در مجموعهای انتخابشده جستوجو میکند و سپس بخشهای مرتبط را بهعنوان زمینه در اختیار مدل زبانی میگذارد. این کار میتواند پاسخها را بهروزتر و قابل پیگیریتر کند، اما خودبهخود آنها را درست نمیکند: بازیابی ممکن است متن نادرستی را پیدا کند، منبع ممکن است ضعیف باشد یا مدل محتوای منبع را نادرست بازگو کند.
هوش مصنوعی عاملمحور
عامل هوش مصنوعی، مدل را با ابزارها، حافظه و چرخهای برای برنامهریزی و اقدام ترکیب میکند. چنین عاملی ممکن است جستوجو، محاسبه، نوشتن فایل یا فراخوانی خدمات را انجام دهد. استقلال بیشتر، امکان خطا، دستکاری و اقدام ناخواسته را نیز افزایش میدهد؛ بنابراین تعیین مجوزها، ثبت فعالیتها، آزمایش و کنترل واقعی انسانی اهمیت بیشتری پیدا میکند.
هوش مصنوعی چه کارهایی را خوب انجام میدهد و کجا شکست میخورد
هوش مصنوعی میتواند جستوجو، خلاصهسازی، ترجمه، طبقهبندی، کشف الگو، تهیهٔ پیشنویس، تولید رسانه، کمک به برنامهنویسی و تحلیل علمی را با سرعت انجام دهد. در محیطهای محدود و بهخوبی آزمایششده، میتواند سرعت و ثبات را افزایش دهد. همچنین میتواند دسترسی افرادی را گسترش دهد که با موانع زبانی، ناتوانی جسمی یا دشواریهای فنی روبهرو هستند.
محدودیتهای هوش مصنوعی حاشیهای نیستند؛ آنها تعیین میکنند که چه وقت میتوان و چه وقت نباید به یک سامانه اعتماد کرد.
- توهم یا برساخت اطلاعات: مدل مولد ممکن است مطلبی قانعکننده و مطمئن تولید کند که پشتوانهٔ کافی ندارد.
- سوگیری: دادههای آموزشی و انتخابهای طراحی میتوانند رفتار نابرابر را بازتولید یا تشدید کنند.
- تغییر شرایط: مدلی که در یک محیط آزمایش شده است، ممکن است با تغییر افراد، زبان یا موقعیت شکست بخورد.
- شفافنبودن: حتی سازندگان یک مدل پیچیده ممکن است نتوانند توضیح علّی سادهای برای خروجی آن ارائه کنند.
- سوگیری به نفع خودکارسازی: افراد ممکن است صرفاً به دلیل ظاهر عینی یا مقتدر سامانه، از توصیهٔ آن پیروی کنند.
- حریم خصوصی و نظارت: دادههای شخصی میتوانند گردآوری، استنباط، ترکیب و فراتر از انتظار فرد استفاده شوند.
- خطرات امنیتی: مهاجمان میتوانند ورودیها را دستکاری کنند، دادهها را مسموم سازند، اطلاعات مدل را بدزدند یا با هوش مصنوعی فریب را گسترش دهند.
- تمرکز قدرت: کنترل تراشهها، زیرساخت ابری، دادههای اختصاصی و مدلهای پیشرفته میتواند برتری فنی را به قدرت اقتصادی و سیاسی تبدیل کند.
- هزینههای مادی: آموزش و اجرای هوش مصنوعی به نیروی کار، انرژی، آب، مواد معدنی، تأسیسات و زنجیرههای تأمین نیاز دارد و بار این هزینهها بهطور برابر توزیع نمیشود.
اندازهگیریهای مفید بدون ریاضیات پیچیده
دقت فقط یک نمرهٔ عمومی و یکسان نیست. معیار مناسب به زیانی بستگی دارد که از هر نوع اشتباه به وجود میآید. در غربالگری پزشکی، «منفی کاذب» یک بیماری را تشخیص نمیدهد، درحالیکه «مثبت کاذب» هشدار غیرضروری ایجاد میکند.
- دقتِ مثبت میپرسد: از میان مواردی که سامانه مثبت اعلام کرده، چند مورد واقعاً مثبت بودهاند؟
- بازخوانی میپرسد: از میان همهٔ موارد واقعاً مثبت، سامانه چند مورد را پیدا کرده است؟
- امتیاز F1 هنگامی که هر دو معیار اهمیت دارند، دقت مثبت و بازخوانی را با هم ترکیب میکند.
- نتیجهٔ یک آزمون معیار، عملکرد روی همان آزمون انتخابشده را میسنجد، نه قابلیت اعتماد در همهٔ محیطهای واقعی.
- ارزیابی مفید همچنین میپرسد نتایج میان گروههای مختلف چه تفاوتی دارد، عملکرد در گذر زمان چگونه تغییر میکند و آیا مردم میتوانند به یک تصمیم زیانبار اعتراض کنند.
استفادهٔ ایمن در زندگی روزمره
- گذرواژه، اطلاعات مالی، جزئیات پزشکی، اسناد محرمانهٔ کاری یا اطلاعات خصوصی دیگران را وارد نکنید؛ مگر آنکه قواعد آن خدمت و اختیار قانونی شما بهروشنی اجازه دهد.
- متن تولیدشده را پیشنویس بدانید. نامها، تاریخها، نقلقولها، آمار، ادعاهای حقوقی و پزشکی و پیوندها را با منابع معتبر بررسی کنید.
- منبع بخواهید و سپس خودتان آن را باز کنید و بخوانید. مدل میتواند منبعی ساختگی ارائه کند یا منبع واقعیای بدهد که ادعایش را پشتیبانی نمیکند.
- هنگامی که خروجی بر آزادی، اشتغال، اعتبار مالی، آموزش، سلامت، مسکن یا خدمات عمومی اثر دارد، سختگیری بیشتری به خرج دهید.
- دستورها، منابع، ویرایشها و تصمیمهای مهم را ثبت کنید تا مسئولیتپذیری قابل مشاهده باقی بماند.
- مراقب تصاویر مصنوعی، صدای شبیهسازیشده، جعل هویت و درخواستهای عاطفی و فوری باشید. هویت را از راه ارتباطی جداگانه تأیید کنید.
- بازبینی انسانی تنها زمانی معنادار است که بازبین وقت، دانش، اختیار و امکان رد پیشنهاد ماشین را داشته باشد.
هوش مصنوعی از دریچهٔ نظم اجتماعی نوین
توضیح فنی نشان میدهد یک سامانهٔ هوش مصنوعی چگونه خروجی تولید میکند. توضیح اجتماعی میپرسد چرا این سامانه ساخته شده، چه هدفی را بهینه میکند، داده و کار چه کسانی آن را ممکن کرده، چه کسی میتواند آن را بررسی یا با آن مخالفت کند و منافعش به چه کسانی میرسد. این پرسشها افزودنیهای سیاسیِ بیرون از فناوری نیستند؛ خودِ فناوری را شکل میدهند.
تولید اجتماعی و کنترل خصوصی
هوش مصنوعی جدید نمونهای بسیار پیشرفته از تولید اجتماعیشده است. مدلها بر زبان، فرهنگ، پژوهش، سرمایهگذاری عمومی، زنجیرههای جهانی تأمین، فعالیت کاربران و کار مهندسان، کارگران داده، هنرمندان، نویسندگان، پالایشگران محتوا و جوامع متکیاند. بااینحال، مالکیت زیرساخت و درآمد حاصل از آن غالباً در دست شمار اندکی متمرکز است. این وضعیت تضاد میان «تولید اجتماعی و مالکیت خصوصی» را که در کتاب «نظم اجتماعی نوین در عصر آگاهی» بررسی شده است، تشدید میکند.
بهرهوری میتواند به آزادی یا ناامنی تبدیل شود
هوش مصنوعی میتواند کار ضروری را کاهش دهد و ظرفیت تولیدی جامعه را گسترش دهد. اما در ساختاری که درآمد، درمان و منزلت اجتماعی را به اشتغال تماموقت وابسته میکند، همین بهرهوری ممکن است به حذف شغل، کاهش قدرت چانهزنی و ناامنی بیشتر بینجامد. نتیجه را خودِ مدل تعیین نمیکند؛ مالکیت، حقوق کار، کاهش ساعات کار، خدمات عمومی و شیوهٔ توزیع دستاوردهای فناوری آن را تعیین میکنند.
مشارکت در قدرت
حکمرانی دموکراتیک هوش مصنوعی نمیتواند به مشورت پس از استقرار سامانه محدود شود. کارگران و جوامع تحت تأثیر باید در تعیین هدفها، انتخاب دادهها، سنجش پیامدها، حسابرسی نتایج و حتی تصمیم دربارهٔ استفاده یا عدم استفاده از سامانه مشارکت کنند. نهادهای عمومی باید قراردادها، ارزیابیها، هزینههای زیستمحیطی، رخدادهای آسیبزا و راههای اعتراض و تجدیدنظر را آشکار کنند. هوش مصنوعی میتواند با پردازش نیازهای لحظهای جامعه به برنامهریزی شفاف کمک کند، اما نباید جایگزین داوری سیاسی مردم یا سرچشمهای برای مشروعیت بالاتر از آنان شود.
آگاهی به جای فناوریپرستی
«عصر آگاهی» به این معنا نیست که ماشینها خودآگاه میشوند؛ مقصود آن است که شهروندان سامانههای اثرگذار بر زندگی خود را بشناسند و قدرت عملی برای ادارهٔ آنها به دست آورند. شهروند آگاه و مسئول نه هوش مصنوعی را ذاتاً شر میداند و نه آن را مرجعی مستقل میپذیرد. هدف این است که ظرفیتی را که بهصورت اجتماعی تولید شده است، در خدمت نیازهای انسانی، برابری، محدودیتهای زیستمحیطی، آزادی و صلح قرار دهیم.
پرسشهایی که هر شهروند باید مطرح کند
- این سامانه قرار است چه مسئلهای را حل کند و چه کسی مسئله را تعریف کرده است؟
- چه دادههایی، با رضایت چه کسانی، استفاده شده و چه تجربههای مهمی در دادهها غایباند؟
- مالک مدل، تراشهها، خدمت ابری و دادههای حاصل چه کسی است؟
- کار آشکار و پنهان را چه کسانی و تحت چه شرایطی انجام میدهند؟
- چه کسی از نظر مالی سود میبرد و چه کسی هزینههای اجتماعی و زیستمحیطی را میپردازد؟
- عملکرد سامانه، از جمله خطاهای آن میان گروههای مختلف، چگونه سنجیده میشود؟
- آیا فرد میتواند توضیح بخواهد، اعتراض کند و به یک انسان پاسخگو دسترسی داشته باشد؟
- آیا راهحلی سادهتر، کمتعرضتر و بدون هوش مصنوعی بهتر عمل میکند؟
- آیا مردم میتوانند سامانه را حسابرسی، اصلاح یا بهطور دموکراتیک رد کنند؟
واژهنامهٔ اصلاحشده
| اصطلاح | معنای ساده |
|---|---|
| هوش مصنوعی | سامانههای رایانهای برای انجام کارهایی مرتبط با ادراک، زبان، پیشبینی، استدلال یا اقدام. |
| یادگیری ماشین | روشهایی که عملکرد مدل را با آموختن الگوها از داده بهبود میدهند. |
| مدل | بازنمایی ریاضی آموختهشدهای که برای تولید پیشبینی یا خروجی استفاده میشود. |
| پارامتر | مقدار عددیای که هنگام آموزش تنظیم میشود؛ پارامتر با یک واقعیت ذخیرهشده در پایگاه داده یکسان نیست. |
| دادهٔ آموزشی | نمونههایی که برای تنظیم مدل استفاده میشوند. |
| استنتاج | استفاده از مدل آموزشدیده برای تولید خروجی از ورودی تازه. |
| هوش مصنوعی مولد | هوش مصنوعیای که محتوای تازهای مانند متن، تصویر، صدا، ویدئو یا کُد تولید میکند. |
| مدل زبانی بزرگ | مدل مولدی که با حجم عظیمی از زبان آموزش میبیند تا دنبالههای توکن را پیشبینی و تولید کند. |
| توکن | واحدی که مدل پردازش میکند؛ معمولاً بخشی از واژه، یک واژه، نشانهٔ سجاوندی یا نماد. |
| پنجرهٔ زمینه | مقدار محدودی از مطالب که مدل میتواند در یک تعامل در نظر بگیرد. |
| مدل چندوجهی | مدلی که بیش از یک نوع داده، مانند متن و تصویر، را پردازش یا تولید میکند. |
| گراف دانش | شبکهای ساختاریافته از موجودیتها و روابط؛ با مدل زبانی تفاوت دارد، هرچند میتوان آن دو را ترکیب کرد. |
| هوش مصنوعی لبهای | پردازش هوش مصنوعی روی دستگاه یا نزدیک آن، به جای انجام کامل پردازش در مرکز دادهٔ دوردست. |
| هوش عمومی مصنوعی | اصطلاحی محل مناقشه برای هوشی با توانایی عمومی در سطح انسان یا فراتر از آن؛ تعریف یا آزمون پذیرفتهشدهٔ همگانی ندارد. |
| توضیحپذیری | روشهایی برای کمک به فهم عوامل مرتبط با خروجی هوش مصنوعی؛ چنین توضیحی ممکن است همچنان ناقص باشد. |
| انسان در چرخه | فرایندی که در آن فرد در بازبینی یا تصمیمگیری مشارکت دارد؛ ارزش آن به اختیار واقعی و شایستگی فرد بستگی دارد. |
جمعبندی
هوش مصنوعی فناوری قدرتمندی برای ساختن و بهکارگیری الگوهاست که درون یک نظام انسانی عمل میکند. این فناوری میتواند به انسانها یاری رساند، دانش را گسترش دهد و کار طاقتفرسا را کاهش دهد؛ اما میتواند نابرابری، نظارت، استثمار و تمرکز قدرت را نیز خودکار کند. سواد فنی به ما کمک میکند هوش مصنوعی را محتاطانه به کار ببریم. آگاهی اجتماعی کمک میکند بهطور جمعی تصمیم بگیریم این فناوری باید در چه راهی به کار گرفته شود. پرسش تعیینکننده این نیست که آیا هوش مصنوعی جامعه را شکل خواهد داد؛ پرسش این است که آیا جامعه میتواند آگاهانه و دموکراتیک هوش مصنوعی را شکل دهد.
منابع و مطالعهٔ بیشتر
- آخوی، حمید. «نظم اجتماعی نوین در عصر آگاهی»، جلد اول، نخستین ویرایش انگلیسی، ۲۰۲۶.
- Bender, Emily M., et al. “On the Dangers of Stochastic Parrots.” FAccT, 2021. https://doi.org/10.1145/3442188.3445922
- Devlin, Jacob, et al. “BERT.” 2018. https://arxiv.org/abs/1810.04805
- European Union. Regulation EU 2024/1689 on Artificial Intelligence. 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- International Energy Agency. Energy and AI. 2025. https://www.iea.org/reports/energy-and-ai
- International Labour Organization and NASK. Generative AI and Jobs. 2025. https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure
- Lewis, Patrick, et al. “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.” 2020. https://arxiv.org/abs/2005.11401
- NIST. Artificial Intelligence Risk Management Framework AI RMF 1.0. 2023. https://doi.org/10.6028/NIST.AI.100-1
- NIST. Generative Artificial Intelligence Profile. 2024. https://doi.org/10.6028/NIST.AI.600-1
- OECD. Recommendation of the Council on Artificial Intelligence. 2024. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
- Vaswani, Ashish, et al. “Attention Is All You Need.” 2017. https://arxiv.org/abs/1706.03762
