کتاب مواجه با ماتریکس

کتاب «نهادها و سازمان‌های پساانسانی: مواجه با ماتریکس»، به ویراستاری اسماعیل العمودی و امانوئل لازگا، درباره‌ی آینده‌ای دور و علمی‌تخیلی نیست؛ درباره‌ی لحظه‌ای است که فناوری از ابزار بودن فراتر می‌رود و آرام‌آرام در سازوکار تصمیم‌گیری نهادهایی وارد می‌شود که زندگی روزمره‌ی ما را شکل می‌دهند. پرسش کتاب این نیست که آیا ماشین‌ها روزی شبیه انسان خواهند شد، بلکه این است که وقتی هوش مصنوعی، الگوریتم‌ها و فناوری‌های ارتقای انسان در پزشکی، شرکت‌ها، ارتش، خانواده و سیاست وارد می‌شوند، چه بر سر عاملیت، مسئولیت و امکان داوری اخلاقی انسان می‌آید؟ این مجموعه نخستین بار در سال ۲۰۱۹ توسط انتشارات راتلج منتشر شد و یکی از مجلدات مجموعه‌ی دانشگاهی «آینده‌ی انسان» است. کتاب مجموعه‌ای تألیفی است، نه اثری تک‌نویسنده‌ای؛ العمودی و لازگا علاوه بر ویراستاری، خود نیز در آن مقاله دارند و پژوهشگرانی چون مارگارت آرچر، داگلاس پورپورا، آندره‌آ ماکارینی، پیرپائولو دوناتی، جیمی مورگان و جان لاتسیس در آن مشارکت کرده‌اند. محور مشترک این نویسندگان، که بسیاری از آنها با سنت واقع‌گرایی انتقادی و هستی‌شناسی اجتماعی پیوند دارند، بررسی پیامدهای اجتماعی فناوری‌هایی است که مرز میان انسان، ماشین و سازمان را کمتر روشن می‌کنند. عنوان فرعی «مواجه با ماتریکس» کلید ورود به کتاب است. ماتریکس در اینجا بیش از آنکه ارجاعی صرف به سینما باشد، استعاره‌ای برای جهانی است که در آن شبکه‌های دیجیتال و دستگاه‌های تصمیم‌گیری چنان در تار و پود زندگی اجتماعی فرو می‌روند که تشخیص مرز میان انتخاب انسانی و انتخاب ازپیش‌ساخت‌یافته دشوار می‌شود. نویسندگان می‌پرسند آیا دیجیتالی‌شدن بیشتر لزوما آزادی بیشتر می‌آورد، یا ممکن است نوع تازه‌ای از بوروکراسی فناورانه بسازد که در آن تصمیم‌ها سریع‌تر و دقیق‌تر به نظر می‌رسند، اما امکان اعتراض، تفسیر و مسئولیت‌پذیری کمتر می‌شود. ناشر نیز مسئله‌ی اصلی کتاب را خطر شکل‌گیری ساختارهای «فناوری‌تمامیت‌خواه» می‌داند که ممکن است همبستگی و هنجارمندی اجتماعی را فرسوده کنند. کتاب در هشت فصل حرکت می‌کند. داگلاس پورپورا ابتدا روایت‌های رایج درباره‌ی هوش مصنوعی و ارتقای انسان را بررسی می‌کند. مارگارت آرچر سپس مسئله‌ی دشوار شخص‌بودگی هوش مصنوعی را مطرح می‌کند: آیا سامانه‌ای که قادر به محاسبه، پاسخ‌گویی یا حتی تقلید زبان انسانی است، می‌تواند واقعا دارای منظر اول‌شخص، دغدغه و بازاندیشی باشد؟ ماکارینی و دوناتی بحث را به سطح روابط اجتماعی می‌برند و می‌پرسند ترکیب انسان و فناوری چگونه شکل تجربه، هویت و رابطه را تغییر می‌دهد. جیمی مورگان نیز به زبان سیاست‌گذاری و وعده‌ی «هوشمندسازی» می‌پردازد و نشان می‌دهد که چگونه آینده می‌تواند پیشاپیش در قالب توصیه‌های فناورانه تعریف و محدود شود. یکی از قوی‌ترین بخش‌های مجموعه فصل العمودی و جان لاتسیس درباره‌ی کاربرد هوش مصنوعی در سیاست سلامت است. آنها اصطلاح «جعبه‌های سیاه بی‌هنجار» را برای مسئله‌ای مهم به کار می‌برند. سامانه‌ی هوش مصنوعی ممکن است خروجی دقیق تولید کند، اما مسیر درونی رسیدن به آن تصمیم برای پزشک، بیمار یا سیاست‌گذار روشن نباشد. مسئله فقط شفافیت فنی نیست. تصمیم پزشکی اغلب حاوی داوری‌هایی درباره‌ی ارزش، اولویت، عدالت و خطر است. اگر الگوریتم این انتخاب‌های هنجاری را درون ساختاری پیچیده پنهان کند، انسان ممکن است نتیجه را بپذیرد بی‌آنکه بتواند درباره‌ی مبانی اخلاقی آن بحث کند. پژوهش‌های بعدی درباره‌ی هوش مصنوعی پزشکی نیز به همین مقاله استناد کرده‌اند و مسئله‌ی پاسخ‌گویی، سوگیری و دشواری نقد تصمیم‌های الگوریتمی را جدی دانسته‌اند. فصل پایانی لازگا این نگرانی را وارد سازمان نظامی می‌کند. او درباره‌ی تیم‌هایی می‌نویسد که انسان، تجهیزات دیجیتال و سامانه‌های هوشمند را در قالب واحدهای ترکیبی به یکدیگر متصل می‌کنند. مسئله‌ی اصلی فقط افزایش قدرت سرباز نیست؛ شکل سازمان نیز تغییر می‌کند. هنگامی که اطلاعات، نظارت و تصمیم‌گیری در شبکه‌ای از انسان‌ها و سامانه‌های ماشینی توزیع می‌شود، نسبت میان فرمان، مسئولیت و پاسخ‌گویی پیچیده‌تر خواهد شد. نقطه‌ی قوت «نهادها و سازمان‌های پساانسانی» همین انتقال بحث پساانسان‌گرایی از سطح پرسش مشهور «آیا روبات می‌تواند انسان شود؟» به پرسشی نهادی‌تر است: وقتی ماشین هنوز انسان نشده، اما انسان‌ها تصمیم‌های اجتماعی خود را به آن واگذار کرده‌اند، چه اتفاقی افتاده است؟ کتاب به‌درستی نشان می‌دهد که خطر اصلی لزوما ظهور هوشی خودآگاه و دشمن بشر نیست. سامانه‌ای حتی بدون آگاهی می‌تواند در توزیع خدمات درمانی، استخدام، ارزیابی، سیاست‌گذاری یا عملیات نظامی قدرت واقعی داشته باشد. محدودیت کتاب نیز تا اندازه‌ای از زمان انتشارش