آیا انسان ها برده ربات ها خواهند شد؟
در قلب کتاب «انسان خداگونه»، اثر مسحورکننده ی «یووال نوح هراری»، ایده ای ساده اما ترسناک وجود دارد:
ماهیت انسان در قرن 21 تغییر خواهد کرد چون مفهوم «هوشمندی» در حال فاصله گرفتن از مفهوم «هوشیاری» است. قرار نیست به این زودی ها ماشین هایی بسازیم که مثل ما احساس داشته باشند. این مفهوم «هوشیاری» است.
ربات ها عاشق یکدیگر نمی شوند (البته این به این معنی نیست که ما عاشق ربات ها نمی شویم). اما همین حالا هم ماشین هایی ساخته ایم – شبکه های گسترده ی پردازش اطلاعات – که احساسات ما را بهتر از خودمان می شناسند. این مفهوم «هوشمندی» است.
موتور جست و جوی گوگل برای خودش، باورها و خواسته هایی ندارد. برایش مهم نیست به دنبال چه هستیم و از رفتار ما آزرده نمی شود. ولی می تواند رفتار ما را تجزیه و تحلیل کند تا قبل از این که خودمان بفهمیم، از خواسته های ما باخبر شود. این حقیقت، می تواند معنی انسانیت را به کل تغییر دهد.
اثر پیشین یووال نوح هراری، کتاب «انسان خردمند» که از آثار پرفروش در جهان است، تاریخ انسان را در 75 هزار سال پیش شرح می دهد تا به ما یادآوری کند که انسان ها موجوداتی خاص یا ضروری برای کیهان نیستند. ما یک اتفاق هستیم.
«انسان خردمند» تنها یکی از گونه های انسان است، یک احتمال تحول آفرین مانند سایر موجودات این سیاره. کتاب «انسان خردمند» با این تفکر به پایان رسید که شاید عصر انسان خردمند در حال به پایان رسیدن باشد. ما در نقطه ی اوج قدرتمان هستیم ولی شاید به مرز آن نیز رسیده باشیم. کتاب «انسان خداگونه» به این تفکر می پردازد که چطور قابلیت ما در کنترل جهان اطرافمان در حال تبدیل ما به موجودی جدید است.
مدارک و شواهد نشان دهنده ی قدرت ما در همه جا وجود دارد
ما فقط طبیعت را فتح نکرده ایم بلکه بدترین دشمنان انسانیت را به تدریج شکست داده ایم. جنگ، به شکلی روزافزون کاربرد خود را از دست می دهد؛ قحطی کمتر اتفاق می افتد؛ بیماری های مختلف در دنیا در حال عقب نشینی هستند. ما با ساخت شبکه هایی پیچیده به این پیروزی ها دست یافته ایم؛ شبکه هایی که با گونه ی انسان به عنوان واحدهای اطلاعاتی رفتار می کنند. علمِ تحول آفرین به ما می آموزد که ما به نوعی، فقط ماشین های پردازشگر اطلاعات هستیم.
ما نیز الگوریتم هستیم. با تغییر اطلاعات می توانیم سرنوشت را کنترل کنیم. مشکل این است که الگوریتم های دیگر – آن هایی که خودمان ساخته ایم – می توانند این کار را خیلی کارآمدتر از ما انجام دهند. این مسئله ای است که هراری با «جدایی هوشمندی از هوشیاری» به آن اشاره می کند. پروژه ی مدرنیته بر این اساس بنا شد که انسان، سرچشمه ی معنا و قدرت است.
ما افرادی هستیم که تصمیم می گیریم چه اتفاقی برایمان بیفتد رأی می دهیم، مصرف می کنیم، عشق می ورزیم. ولی این امر در عصر جدید، دیگر صدق نمی کند. ما موجوداتی هستیم که به شبکه ها قدرت می دهیم. آن ها از ایده های معنایی ما استفاده می کنند تا تصمیم بگیرند چه اتفاقی برای ما بیفتد.
هیچ کدام از این حرف ها تازه نیستند. زندگی مدرن که حدود چهارصد سال با ما بوده، خود یک ماشین پردازش اطلاعات دیگر است. فیلسوف انگلیسی برجسته، توماس هابز، در سال 1651 میلادی، این موجود جدید را یک «آدم مکانیکی» خطاب کرد (یا چیزی که امروزه با نام «ربات» می شناسیم). ویژگی رباتی و مکانیکی آن، منبع قدرت و بی عاطفگی آن است:
در حکومت ها، چیزی به عنوان «وجدان انسانی» مطرح نیست و به همین دلیل است که گاهی کارهای وحشتناکی انجام می دهند. اتفاقی که افتاده این است که در حال حاضر ماشین های پردازشگری وجود دارند که خیلی کارآمدتر از حکومت ها عمل می کنند.
همان طور که هراری بیان می کند، برای دولت ها تقریباً غیرممکن است که با سرعتِ پیشرفت فناوری پیش بروند. امروزه نگه داشتن این باور که پشت هر حکومت، انسان هایی ساخته شده از گوشت و خون فعالیت می کنند، حتی سخت تر از زمان توماس هابز است. اصرار امروزی بر مختار بودن افراد با نگرشی همراه است که اظهار می کند باید بتوان احساس را در این دنیای بی عاطفه پیدا کرد.
اگر در یک سازمان جست و جو کنید، در نهایت به کارمدنی معمولی با احساسات واقعی می رسید. ولی اگر در یک موتور جست و جو کاوش کنید، فقط به اطلاعات دست خواهید یافت.
ما تنها در نقطه ی آغازین این تغییر یا انتقال اطلاعات-محور هستیم و هراری می گوید :
«کاری از دست ما برای توقف این فرآیند برنمی آید.»
کتاب «انسان خداگونه» اثری «مربوط به پایان تاریخ» است، ولی منظور، پایانِ همه چیز نیست چون او باور ندارد که حیات متوقف خواهد شد.
کاملاً برعکس: مسائل با چنان سرعتی پیش می روند که نمی توان حتی تصور کرد آینده ممکن است چگونه باشد. در قرن نوزدهم می توانستیم فکر کنیم که قرن بیستم چه شکلی خواهد بود و چگونه در آن جای خواهیم گرفت.
این تاریخ است: مجموعه ای از رخدادها که انسان نقش اصلی را در آن ها ایفا می کند. ولی تصور قرن بیست و دوم در زمان حال تقریباً غیرممکن است و به هیچ وجه نمی دانیم جایگاهمان چه خواهد بود. شاید دنیایی ساخته باشیم که جایی برای ما نداشته باشد.
با توجه به این که این تفکر، هشداردهنده است و ما هم هنوز به آن جا نرسیده ایم، چرا نمی توانیم کاری کنیم تا جلوی به وقوع پیوستن آن را بگیریم؟
هراری عقیده دارد :
«این باور مدرن که انسان ها مسئول سرنوشت خود هستند، تنها خوش باوری بوده است. قدرت واقعی همیشه در دست شبکه ها است. انسان به تنهایی موجود نسبتاً ضعیفی است و حریف موجوداتی دیگر مثل شیر یا خرس نمی شود. ولی کاری که انسان ها به عنوان یک گروه با هم انجام می دهند باعث شده تا کره ی زمین را فتح کنند. این گروه بندی ها – شرکت ها، ادیان، حکومت ها – حالا بخشی از جریان های اطلاعاتی متصل به هم هستند. مقاومت کردن نیز در برابر امواج اطلاعاتی بی پایان، برای گروه ها به تدریج در حال سخت تر شدن است.»
بعضی از افراد تسلیم شده اند. مذهبی جدید به جای افکار پایه ای مدرنیته – لیبرالیسم، دموکراسی و خودمختاری – پدید آمده است.
«اطلاعات گرایی». پیروان این مذهب – که بسیاری از آن ها در منطقه ی خلیج کالیفرنیا زندگی می کنند – به اطلاعات ایمان دارند و ما را ترغیب می کنند تا آن را به عنوان تنها سرچشمه ی ارزش در نظر بگیریم. این تفکر در واقع ارزش انسان را همان مشارکتی در نظر می گیرد که به پردازش اطلاعات می کند.
این دیدگاه جنبه های خوبی دارد: یعنی ما برای رسیدن به خواسته هایمان با موانع کمتر و کمتری مواجه می شویم چون اطلاعات لازم بلافاصله در دسترس هستند. علایق و تجاربمان یکی می شوند. برنامه هایمان برای زندگی می توانند گسترش پیدا کنند.
اطلاعات گرایان باور دارند «جاودانگی»، مرز بعدی است که از آن عبور می کنند. ولی جنبه ی منفی این دیدگاه نیز واضح است. «ما» دیگر چه خواهیم بود؟ هیچ به جز مجموعه ای از نقاط اطلاعاتی.
پاد آرمان شهرهای سیاسی قرن بیستم به دنبال این بودند که با قدرت حکومت، جلوی افراد را بگیرند. این کار در قرن پیش رو ضرورتی ندارد. همان طور که هراری می گوید:
«فرد توسط «برادر بزرگ» له نمی شود، بلکه از درون تجزیه می شود.»
شرکت ها و دولت ها به تجلیل از فردیت و نیازهای منحصر به فرد هر انسان ادامه می دهند ولی برای این که به آن ها خدمت کنند باید ما را به سیستم های زیرمجموعه ای بیوشیمیایی تقسیم کنند که همگی آن ها تحت سلطه و کنترل الگوریتم ها هستند.
این مسئله یک جنبه ی منفی سیاسی هم دارد: اولین افراد – آن هایی که اول از همه به پروژه ی اطلاعات گرایی روی می آورند – تنها افرادی هستند که قدرتی واقعی دارند و نسبتاً به چالش کشیده نمی شوند. ورود به این گروهِ «فوق نخبه» به شدت سخت خواهد بود.
برای انجام این کار، به سطح بالایی از تحصیلات و داشتن تمایل به همسویی هویتتان با ماشین های هوشمند نیاز خواهید داشت. بعد می توانید به یکی از «خدایان» جدید تبدیل شوید.
چشم انداز ترسناکی است: قشری محدود از افرادی شبیه به کشیشان که به منبع بی نهایت علم دسترسی دارند و دیگران، فقط ابزارهایی برای رسیدن به مقاصد به حساب می آیند.
آینده می تواند نسخه ی دیجیتالی گذشته ی دور باشد: مصر باستان که به قدرت فیسبوک مجهز است.
هراری اما نمی گوید که این چشم اندازهای غریب از آینده حتماً به وقوع خواهند پیوست چرا که گذشته از همه چیز، آینده ناشناخته است. او محکم ترین عقایدش را به پرداخت به این موضوع اختصاص می دهد که اکنون این مسئله چه معنایی برای وضعیت فعلی روابط بین انسان ها و حیوانات دارد.
اگر «هوشمندی» و «هوشیاری» در حال جدا شدن از هم هستند، پس این اتفاق انسان را در کنار دیگر حیوانات قرار خواهد داد:
انسان زیر سلطه ی هوشی برتر از خود رنج خواهد کشید.
هراری به نظر خیلی نگران این چشم انداز نیست که ربات ها ممکن است با ما طوری برخورد کنند که ما مثلاً با حشرات (به شکلی بی تفاوت و خشونت آمیز) برخورد می کنیم. بلکه او از ما می خواهد ببینیم خودمان در سیستم های صنعتی کشاورزی، با حیوانات چطور رفتار می کنیم.
خوک بدون شک وقتی در محیط بسته زندگی کند یا از بچه اش جدا شود، به شدت رنج می کشد. اگر فکر می کنیم این رنج مهم نیست چون بر سر موجودی با هوشی برتر نیامده است، پس داریم ترکه ای برای تنبیه خودمان می سازیم. به زودی همین اتفاق در مورد ما نیز خواهد افتاد. و بهای رنج ما چه خواهد بود؟
کتاب «انسان خداگونه»، اثری هوشمندانه پر از بینش های تند و خِردی هشداردهنده است. ولی همان طور که هراری احتمالاً اولین کسی است که اعتراف خواهد کرد، این کتاب فقط با معیارهای انسان، هوشمندانه است که خیلی هم معیارهای خاصی نیستند.
طبق معیارهای هوشمندترین ماشین ها این کتاب صرفاً خسته کننده و در بهترین حالت خیال انگیز خواهد بود. مجموعه های اطلاعاتی اش خیلی محدود هستند. قدرت واقعی اش از «هوشیاریِ» متمایزی ناشی می شود که نویسنده (یک انسان) در آن به کار برده است.
هراری به سرنوشت حیوانات در دنیای انسان ها اهمیت می دهد ولی درباره ی سرنوشت انسان ها در دنیایی اطلاعات-محور بی پروا و بی پرده می نویسد. باید اعتراف کرد بخش هایی از کتاب می تواند خیلی ترسناک باشد، البته برای همه این گونه نخواهد بود.
ولی سخت است که تصور کنیم کسی این کتاب را بخواند و دچار هیجان یا ترسی لحظه ای نشود.
«فردریش نیچه» زمانی نوشت اکنون که اخلاقیات مسیحی را بالاخره پشت سر گذاشته ایم، انسان در حال ورود به دریای آزاد است.
کتاب «انسان خداگونه» باعث می شود فکر کنیم بعد از سفری طولانی و دشوار، روی لبه ی پرتگاه ایستاده ایم. سفر دیگر اهمیت چندانی ندارد. قرار است از عرش پایین بیفتیم.
چرا ژانر علمی تخیلی مهم ترین ژانر است؟
یووال نوح هراری، نویسنده ی کتاب های پرفروش «انسان خردمند» و «انسان خداگونه» از طرفداران دوآتشه ی ژانر علمی تخیلی است و حتی فصلی از اثر جدیدش، کتاب «21 درس برای قرن 21» را به این ژانر اختصاص داده است.
هراری در مصاحبه ای بیان می کند:
«امروزه، ژانر علمی تخیلی مهم ترین ژانر هنری است. این ژانر فهم عموم مردم را در موضوعاتی مثل هوش مصنوعی و بیوتکنولوژی شکل می دهد؛ موضوعاتی که احتمالاً زندگی و جامعه ی ما را بیش از هر مسئله ی دیگری در دهه های پیش رو تغییر می دهند.»
از آن جایی که ژانر علمی تخیلی چنین نقش مهمی در شکل گیری نظر عموم جامعه دارد، هراری ترجیح می دهد شاهد آثار علمی تخیلی بیشتری باشد که به مشکلاتی واقع گرایانه مانند ایجاد «قشری بی فایده از کارگران» به خاطر وجود هوش مصنوعی می پردازند. او می گوید:
«اگر می خواهید عموم جامعه به چنین موضوعاتی توجه داشته باشند، یک فیلم علمی تخیلی خوب به اندازه ی صد مقاله در مجلات Science یا Nature ارزش خواهد داشت، یا حتی ارزش بیشتری از صد مقاله در نیویورک تایمز دارد.»
هراری اما عقیده دارد آثار علمی تخیلی، اغلب روی سناریوهایی متمرکز می شوند که بیش از اندازه خیالی یا بعید هستند.
او در این باره می گوید:
«در بیشتر فیلم های علمی تخیلی درباره ی هوش مصنوعی، داستان اصلی حول این لحظه می چرخد که کامپیوتر یا ربات، هوشیاری به دست می آورد و شروع به حس کردن می کند. تصور می کنم این مسئله، فکر و توجه عموم جامعه را از مسائلی مهم تر و واقع گرایانه تر، به مسئله ای منحرف می کند که بعید است به این زودی ها رخ دهد.»
هوش مصنوعی و بیوتکنولوژی شاید دو موضوع بسیار مهم باشند که مقابل انسانیت قرار می گیرند ولی هراری اشاره می کند که آن ها به زحمت در رادار سیاست مداران دیده می شوند. او باور دارد نویسندگان علمی تخیلی و فیلم سازان باید برای تغییر این شرایط هر کاری را که می توانند، انجام دهند.
او در این باره بیان می کند:
«فناوری های مختلف قطعاً سرانجام ما نیست. هنوز هم می توانیم اقداماتی داشته باشیم و هنوز هم می توانیم این فناوری ها را متعادل و تنظیم کنیم تا از بدترین سناریوهای ممکن جلوگیری کرده و از این فناوری ها فقط در راه درست استفاده کرده باشیم.»
