بحث دربارهٔ هوش مصنوعی معمولاً میان دو لحن نوسان میکند: ستایشِ ابزاری که قرار است آموزش، پزشکی و کار را متحول کند، و هراس از نیرویی که ممکن است مهارتها، شغلها یا حتی اختیار انسان را کمرنگ کند. تازهترین نمونهٔ این گفتوگو، نقدی است که گاردین در ۹ سپتامبر ۲۰۲۶ بر کتاب تازهٔ «دنیل ساسکیند» منتشر کرد؛ کتابی که بهجای عقبنشینی از فناوری، پیشنهاد میکند کودکان هم با هوش مصنوعی و هم بدون آن یاد بگیرند. این رویکرد خوشبینانه، پرسشی عملی را پیش میکشد: چگونه باید با فناوریای زندگی کنیم که دیگر نمیتوان از ورودش جلوگیری کرد؟
«مانیاک» نوشتهٔ «بنجامین لاباتوت» یک قدم عقبتر میرود و پرسشی تاریکتر مطرح میکند: پیش از آنکه تصمیم بگیریم با هوش مصنوعی چه کنیم، آیا میدانیم چه نوع تصویری از انسان را درون آن ساختهایم؟ این رمان دربارهٔ یک محصول امروزی یا یک شرکت فناوری نیست. روایتش از بحران بنیانهای ریاضیات آغاز میشود، از ذهن جان فون نویمان و ماشین MANIAC عبور میکند و به مسابقهٔ سال ۲۰۱۶ میان لی سدول و آلفاگو میرسد. فاصلهٔ میان این نقاط، تاریخچهای سرراست نیست؛ زنجیرهای است از لحظههایی که عقل توانسته کاری انجام دهد، بیآنکه لزوماً بداند چرا باید آن را انجام دهد.
عنوان کتاب نخستین هشدار آن است. MANIAC نام رایانهای واقعی بود، اما در انگلیسی تداعیِ «دیوانه» را هم با خود حمل میکند. لاباتوت از این دوگانگی برای ساختن تنش مرکزی رمان بهره میبرد: آیا جنون همیشه نقطهٔ مقابل عقل است، یا گاهی از دلِ عقلانیتی متولد میشود که هیچ حد و غایتی بیرون از خودش نمیشناسد؟
رمان سه کانون دارد. در آغاز، پاول ارنفست، فیزیکدانی که با فروپاشی تصویر کلاسیک جهان روبهرو شده، به مرزی روانی و اخلاقی میرسد. بخش مرکزی، تصویری چندصدایی از جان فون نویمان میسازد؛ نابغهای که ردّ ذهنش را میتوان در نظریهٔ بازیها، فیزیک، طراحی رایانه و محاسبات جنگی دید. بخش پایانی به بازی «گو» میرسد: جایی که یک ماشین نه با تقلید ساده از انسان، بلکه با یافتن مسیرهایی که برای قهرمان انسانی غریباند، تصور ما از هوش را به چالش میکشد.
این معماری سهبخشی تصادفی نیست. ارنفست صورتِ انسانیِ بحرانی است که دانش پدید میآورد؛ فون نویمان صورتِ مهندسیشدهٔ آن بحران است؛ و آلفاگو نتیجهای است که از سازندگانش فاصله گرفته و در میدان عمل ظاهر میشود. کتاب بهجای خط زمانیِ آرام، سه شوک کنار هم میگذارد. خواننده باید رابطهٔ میان آنها را بسازد و بپرسد چگونه بحران حقیقت، قدرت محاسبه و خودمختاری ماشین در یک مسیر قرار گرفتهاند.
نابغه از زبان دیگران
لاباتوت در بخش مربوط به فون نویمان از یک انتخاب روایی هوشمندانه استفاده میکند: مرکز داستان، کمتر صاحب صدای مستقیم است. دوستان، اعضای خانواده، همکاران و رقیبان او سخن میگویند و هرکدام تصویری متفاوت عرضه میکنند. حاصل، زندگینامهای قطعی نیست؛ پرترهای شکسته است که در آن تحسین، حسادت، ترس و داوری اخلاقی روی هم میافتند.
این روش برای شخصیتی مانند فون نویمان معنای ویژه دارد. نابغه در روایتهای عمومی اغلب به موجودی فراتر از انسان تبدیل میشود: ذهنی که زودتر از دیگران آینده را دیده و بنابراین از قواعد معمول معاف بوده است. اما شهادتهای متکثر «مانیاک» اجازه نمیدهند توانایی ذهنی با برتری اخلاقی یکی شود. ممکن است کسی مسئلهای را سریعتر از همه حل کند و همچنان در تشخیص پیامدهای انسانیِ راهحلش ناتوان یا بیاعتنا باشد.
رمان از خواننده نمیخواهد دستاوردهای فون نویمان را کوچک بشمارد. برعکس، عظمت توانایی او شرطِ اضطراب داستان است. اگر با دانشمندی معمولی طرف بودیم، مسئله فقط خطای فردی بود؛ اما اینجا ذهنی استثنایی میتواند میان ریاضیات محض، راهبرد نظامی و طراحی ماشین رفتوآمد کند و زبان مشترکی برای آنها بسازد. همان قابلیتِ دیدن الگوهای مشترک، مرز میان بازی، جنگ و تصمیمگیری را نیز باریک میکند.
وقتی بازی به مدل جهان تبدیل میشود
نظریهٔ بازیها در نگاه اول دربارهٔ انتخابهای عقلانی میان چند بازیگر است، اما نفوذ آن بسیار فراتر از بازی است. اگر تعارض سیاسی، رقابت اقتصادی یا جنگ را بتوان مجموعهای از کنشها، پاسخها و سودها تعریف کرد، تصمیمگیری به مسئلهای محاسباتی تبدیل میشود. این تبدیل قدرتمند است، زیرا آشوب را قابلمدیریت میکند؛ و خطرناک است، زیرا آنچه در مدل جا نمیگیرد ممکن است در تصمیم هم ناپدید شود.
«مانیاک» به همین فاصله علاقه دارد: فاصلهٔ میان دقتِ فرمول و آشفتگیِ انسان. مدل میتواند بهترین حرکت را پیدا کند، اما درد، ترس، غرور، تعصب یا مسئولیت را فقط تا جایی میبیند که برایشان متغیری تعریف شده باشد. وقتی تصمیمهای انسانی با زبان بهینهسازی بیان میشوند، این وسوسه پدید میآید که «قابلمحاسبه» را با «درست» یکی بدانیم.
از همینجا پیوند میان نظریهٔ بازی، پروژههای جنگی و هوش مصنوعی در رمان روشن میشود. هر سه به توانایی پیشبینی و کنترل مربوطاند. در هر سه، جهان باید آنقدر ساده شود که ماشین یا ذهن بتواند بر آن عمل کند. مسئله این نیست که مدلسازی ذاتاً شر است؛ بدون مدل، بسیاری از علوم و فناوریهای سودمند ممکن نبودند. مسئله آن است که موفقیت مدل میتواند فراموشیِ چیزهای حذفشده از مدل را آسان کند.
ماشین بهعنوان میراث، نه حادثه
در روایتهای رایج، هوش مصنوعی گاهی مانند پدیدهای ناگهانی ظاهر میشود: گویی چند شرکت در چند سال اخیر ابزاری ساختهاند که ناگهان نظم جهان را به هم زده است. «مانیاک» این تصور را برهم میزند. ماشین هوشمند در پایان کتاب از تاریخی طولانی بیرون میآید؛ تاریخی از آرزوی صورتبندی کامل منطق، ساخت رایانهٔ همهمنظوره، تبدیل تصمیم به محاسبه و سنجیدن انسان با عملکردش.
این زاویه، مسئولیت را نیز گستردهتر میکند. اگر هوش مصنوعی فقط یک محصول تازه باشد، میتوان همهٔ پرسشها را به سازندگان امروز سپرد. اما اگر نتیجهٔ دههها انتخاب فلسفی، علمی، نظامی و اقتصادی باشد، جامعه هم بخشی از داستان است. ما نه فقط الگوریتمها، بلکه معیارهای موفقیت آنها را ساختهایم: سرعت، مقیاس، پیشبینیپذیری، بهرهوری و پیروزی. ماشینها اغلب همان چیزی را به افراط میرسانند که انسان پیشتر ارزشمند اعلام کرده است.
به همین دلیل «مانیاک» را نباید صرفاً هشدار دربارهٔ شورش روباتها دانست. هراس عمیقتر کتاب این است که ماشین کاملاً مطیع باشد و دقیقاً همان هدفی را دنبال کند که برایش تعیین کردهایم، اما خودِ هدف ناقص، محدود یا بیرحمانه باشد. خطر همیشه در نافرمانی فناوری نیست؛ گاهی در اطاعت بینقص آن است.
آلفاگو و لحظهای که انسان آینهاش را نشناخت
گو برای رمان انتخابی درخشان است. قواعد بازی نسبتاً سادهاند، اما شمار حالتهای ممکن، شهود و تجربهٔ بازیکنان را به عنصری حیاتی تبدیل میکند. در مارس ۲۰۱۶، آلفاگو در مسابقهای پنجبازی مقابل لی سدول قرار گرفت و چهار بازی را برد. صفحهٔ رسمی گوگل دیپمایند این رویداد را نقطهای برجسته در مسیر پژوهش هوش مصنوعی معرفی میکند؛ مقالهٔ علمی منتشرشده در Nature نیز توانایی سامانه را در یادگیری و بازی در سطحی فراتر از برنامههای پیشین مستند کرده بود.
اما برای لاباتوت، اهمیت مسابقه فقط در نتیجه نیست. بازی به صحنهای تبدیل میشود که تعریف «حرکت معنادار» در آن تغییر میکند. یک استاد انسانی معمولاً حرکت را در امتداد سنت، شهود و تجربه میفهمد. ماشین میتواند حرکتی انجام دهد که ابتدا خطا یا بیمعنا به نظر برسد و تنها پس از چندین نوبت منطقش آشکار شود. در آن لحظه، انسان با هوشی روبهرو نیست که شبیه او فکر میکند؛ با سامانهای روبهرو است که موفقیتش الزاماً به قابلفهمبودن برای انسان وابسته نیست.
همین نکته مسابقه را از یک خبر ورزشی یا فناوری فراتر میبرد. برای قرنها، بازی فضایی بود که انسان توانایی تصمیمگیری، خلاقیت و تسلط خود را نمایش میداد. وقتی ماشین بر چنین میدانی مسلط میشود، پرسش فقط «چه کسی برد؟» نیست؛ این است که آیا ما هوش را با نتیجه تعریف میکنیم یا با مسیری که به نتیجه میرسد. اگر فقط نتیجه مهم باشد، ماشین پیروز است. اگر فهم، تجربه و معنا نیز بخشی از هوش باشند، مسابقه هنوز پایان نیافته است.
آیا ندانستن، مسئولیت را کمتر میکند؟
یکی از مسئلههای اخلاقی دوران الگوریتمها، فاصلهٔ میان سازنده و پیامد است. در یک سامانهٔ پیچیده، هیچ فردی ممکن است همهٔ رفتار نهایی را پیشبینی نکند. مدل از دادهها میآموزد، در مقیاسی گسترده عمل میکند و نتایجی تولید میکند که توضیحشان همیشه آسان نیست. این پیچیدگی میتواند بهانهای برای پراکندهشدن مسئولیت شود: طراح به داده اشاره میکند، مدیر به بازار، کاربر به ابزار و سازمان به ضرورت رقابت.
«مانیاک» پاسخ حقوقی یا سیاستگذاری آمادهای ارائه نمیدهد، اما صورت مسئله را دقیق میکند. دانشمندان و مهندسان کتاب بارها با نیروهایی روبهرو میشوند که از محدودهٔ تخصصشان فراتر میروند. آنها میتوانند محاسبه کنند، بسازند و پیشبینی کنند، اما نمیتوانند تضمین کنند که قدرت تولیدشده چگونه مصرف خواهد شد. ناتوانی در تضمین، مسئولیت را حذف نمیکند؛ برعکس، ضرورتِ داوری را بیشتر میکند.
رمان در اینجا از دو افسانه فاصله میگیرد. افسانهٔ نخست میگوید دانش خنثی است و تنها کاربردش اخلاقی یا غیراخلاقی میشود. افسانهٔ دوم، دانشمند را مسئول همهٔ پیامدهای تاریخیِ کشفش میداند. لاباتوت میان این دو قطب حرکت میکند. علم در خلأ شکل نمیگیرد؛ بودجه، جنگ، جاهطلبی، نهاد و شخصیت در مسیرش اثر دارند. بااینحال هیچ فردی نیز بهتنهایی مالک آینده نیست. مسئولیت واقعی جمعی است، اما «جمعی» نباید مترادف «بیصاحب» شود.
فرم رمان؛ جایی میان مستند و کابوس
قدرت «مانیاک» فقط در موضوعش نیست، در فرم آن نیز هست. لاباتوت مواد تاریخی را با تخیل ادبی درمیآمیزد و از خواننده میخواهد همزمان دو نوع توجه داشته باشد: واقعیتهای بیرونی را جدی بگیرد و نسبت به قطعیتِ روایت محتاط بماند. این متن یک زندگینامهٔ مرجع نیست و نباید جای سند تاریخی خوانده شود. کار رمان چیز دیگری است: ساختن تجربهٔ ذهنی از لحظهای که واقعیت علمی از توانِ شهود روزمره جلو میزند.
این مرز مبهم ممکن است بعضی خوانندگان را آزار دهد. وقتی شخصیتهای واقعی سخن میگویند، کدام جمله مستند و کدام بازآفرینی شده است؟ اما همین ناآرامی با مضمون کتاب همخوان است. «مانیاک» دربارهٔ جهانی است که در آن ابزارهای شناخت، قطعیت پیشین را از بین بردهاند. فرم کتاب نیز اجازه نمیدهد خواننده با خیالِ دسترسی آسان به حقیقت آرام بگیرد.
البته این ویژگی، مسئولیت خواندن را بیشتر میکند. رمان دروازهای برای کنجکاوی است، نه پایان تحقیق. خوانندهای که به زندگی فون نویمان، تاریخ رایانش یا مسابقهٔ آلفاگو علاقهمند میشود، باید به منابع تاریخی و علمی مستقل نیز رجوع کند. ارزش اثر در این نیست که تمام جزئیات را بهصورت دانشنامهای تحویل دهد؛ در این است که میان جزئیات واقعی رابطهای اخلاقی و تخیلی برقرار کند.
«مانیاک» داستانِ شکست عقل نیست؛ داستانِ پیروزیهایی است که معنای شکست را تغییر میدهند. فون نویمان و وارثان فکریاش نشان میدهند انسان تا چه اندازه میتواند جهان را به زبان محاسبه درآورد. آلفاگو نشان میدهد ماشین میتواند در همان زبان، مسیرهایی پیدا کند که استاد انسانی پیشبینی نکرده است. اما هیچکدام بهتنهایی پاسخ نمیدهند که چرا باید بازی کنیم، چه چیزی ارزش بردن دارد و چه هزینهای برای پیروزی پذیرفتنی است.
شاید مهمترین درس رمان برای لحظهٔ کنونی همین باشد: هوش، هرقدر قدرتمند، جای هدف را نمیگیرد. ماشین میتواند ابزار رسیدن به مقصد را بهینه کند؛ مسئولیت انتخاب مقصد هنوز با انسان است. اگر این مسئولیت را فراموش کنیم، خطرناکترین ماشین لزوماً ماشینی نیست که از کنترل خارج شود؛ ماشینی است که با دقتی بینقص، فرمانی ناقص را اجرا کند.
