آخرین کالای سرمایه‌داری؛ وقتی ذهن انسان به زیرساخت اقتصادی تبدیل می‌شود
تاریخ فناوری را می‌توان از یک زاویه، تاریخ تبدیل محدودیت‌های انسان به فرصت دانست. ما ابزار ساختیم تا دور دست ها را ببینیم، سریع‌تر حرکت کنیم، بیشتر به خاطر بسپاریم و کمتر به بدن خود وابسته باشیم. اما هوش مصنوعی با تمام فناوری‌های پیش از خود یک تفاوت بنیادی دارد: این بار ابزار نه در امتداد دست و چشم انسان، بلکه در امتداد خودِ ذهن قرار گرفته است.
و شاید برای نخستین بار، مسئله فقط این نباشد که انسان چه چیزی می‌سازد؛ بلکه این باشد که آنچه ساخته، در نهایت با خود انسان چه می‌کند.
هوش مصنوعی امروز ظاهراً در دسترس همه قرار گرفته است. برخلاف بسیاری از فناوری‌های تاریخی، لازم نیست ثروتمند باشیم تا به یک مدل زبانی پیشرفته دسترسی پیدا کنیم. اما برابری در دسترسی الزاماً به معنای برابری در نتیجه نیست.
یک چکش در دست دو نفر الزاماً دو نجار نمی‌سازد.
هوش مصنوعی نیز همین‌طور است.
عاملی که در اینجا تعیین‌کننده می‌شود چیزی است که می‌توان آن را «کشش شناختی» نامید؛ میل درونی انسان به حل مسئله، تحمل اصطکاک فکری، کشف، آزمایش و ساختن.
بر این اساس، به‌تدریج می‌توان سه الگوی متفاوت را دید.
گروه نخست کسانی هستند که از هوش مصنوعی برای حذف چالش استفاده می‌کنند. مسئله را به ماشین می‌سپارند تا کمتر فکر کنند، کمتر تصمیم بگیرند و کمتر با اصطکاک ذهنی روبه‌رو شوند.
گروه دوم ابزار را برای حفظ سطح فعلی خود به کار می‌گیرند. کارهای تکراری را اتوماتیک می‌کنند، زمان می‌خرند و تقریباً همان انسان قبلی باقی می‌مانند.
اما گروه سوم از هوش مصنوعی برای کاهش چالش استفاده نمی‌کنند؛ از آن برای افزایش ظرفیت مواجهه با چالش استفاده می‌کنند.
یک هنرمند که پیش از این برای ساخت یک اثر مفهومی به روزها تحقیق و آزمون نیاز داشت، اکنون می‌تواند در چند ساعت ده‌ها ایده را آزمایش کند. یک پژوهشگر می‌تواند در یک روز با حجم دانشی مواجه شود که پیش‌تر هفته‌ها زمان می‌برد. یک برنامه‌نویس، مدیر یا نویسنده می‌تواند چندین مدل را هم‌زمان به خدمت بگیرد، ایده‌هایش را نقد کند، جایگزین بسازد و چرخه بازخورد خود را ده‌ها برابر سریع‌تر کند.
هوش مصنوعی در این حالت برابرکننده نیست؛ تقویت‌کننده است.
کسی که پیش از آن میل به خلق داشت، بیشتر خلق می‌کند. کسی که میل به یادگیری داشت، سریع‌تر یاد می‌گیرد. و کسی که از اصطکاک فکری فرار می‌کرد، اکنون ابزار بسیار قدرتمندتری برای همان فرار در اختیار دارد.
در نتیجه، شکاف آینده شاید بیش از آنکه شکاف میان انسان و ماشین باشد، شکاف میان انسان‌هایی باشد که رابطه متفاوتی با ماشین برقرار کرده‌اند.
وقتی اختلاف شناختی به اختلاف زبانی تبدیل می‌شود
این شکاف فقط در بهره‌وری باقی نمی‌ماند.
ذهنی که هر روز با چندین مدل، ابزار تحلیلی و چرخه سریع بازخورد کار می‌کند، به‌تدریج شیوه متفاوتی برای ساختن مفهوم پیدا می‌کند. مفاهیم برای او چندلایه‌تر، ساختاریافته‌تر و وابسته‌تر به روابط میان داده‌ها می‌شوند.
در مقابل، فردی که کمتر در چنین محیطی قرار گرفته است ممکن است همان مفاهیم را با نزدیک‌ترین برچسب آشنای خود جایگزین کند.
از همین نقطه سوءتفاهم آغاز می‌شود.
نه لزوماً به این دلیل که یکی باهوش و دیگری نادان است، بلکه به این دلیل که دو ذهن از پروتکل‌های متفاوتی برای پردازش و انتقال معنا استفاده می‌کنند.
ذهن‌های پرسرعت‌تر قادرند مخاطب خود را تحلیل کنند، اما مخاطب الزاماً قادر نیست ساختار درونی آن‌ها را بازسازی کند.
این عدم تقارن به‌تدریج می‌تواند به نوعی انزوای شناختی منجر شود.
و تناقض جالب اینجاست که هرچه انسان به ابزارهای بیشتری برای فهم جهان مجهز می‌شود، ممکن است برای فهمیده‌شدن توسط انسان‌های دیگر به ابزارهای بیشتری نیاز پیدا کند.
در این نقطه، ارتباط انسان با هوش مصنوعی از یک رابطه ابزارمحور به یک رابطه دائمی نزدیک می‌شود.
و شواهد مسیر فناوری نیز تقریباً همین جهت را نشان می‌دهد.
مدل‌های ابری به مدل‌های محلی رسیده‌اند. مدل‌های محلی وارد تلفن همراه شده‌اند. تلفن همراه با ابزارهای پوشیدنی، خانه، خودرو و اینترنت اشیا ادغام می‌شود. هدف روشن است: هوش مصنوعی نباید چیزی باشد که گاهی به آن مراجعه می‌کنیم؛ باید چیزی باشد که همیشه حضور دارد.
رابط‌های مغز و کامپیوتر این مسیر را فقط یک مرحله جلوتر می‌برند.
وقتی فاصله میان ذهن و ماشین از صفحه‌نمایش به سیستم عصبی کاهش پیدا کند، دیگر صحبت از «استفاده از هوش مصنوعی» چندان دقیق نخواهد بود.
انسان به بخشی از یک سیستم محاسباتی بزرگ‌تر تبدیل خواهد شد.
اما چه چیزی این مسیر را پیش می‌برد؟
اینجا فناوری به‌تنهایی پاسخ کافی نیست.
فناوری مسیر را باز می‌کند، اما چیزی باید انسان را وادار کند وارد آن شود.
و آن نیرو احتمالاً همان چیزی است که پیش‌تر بسیاری از فناوری‌های انسانی را از امکان به ضرورت تبدیل کرده است: اقتصاد.
سرمایه‌داری لزوماً چیزی را از ابتدا خلق نمی‌کند.
فلمینگ پنی‌سیلین را برای ساختن یک بازار کشف نکرد، اما پنی‌سیلین در نهایت وارد شبکه‌ای از تولید، مالکیت، قیمت‌گذاری و توزیع شد و تبدیل به محصول شد.
بسیاری از نهادهای انسانی نیز مسیر مشابهی را طی کرده‌اند.
دین، سیاست، آموزش، سلامت، اخلاق عمومی و حتی هویت، الزاماً با منطق بازار آغاز نشده‌اند؛ اما هنگامی که وارد جامعه مدرن می‌شوند، پیرامون آن‌ها سازمان، سرمایه، رقابت، قدرت، رسانه و جریان مالی شکل می‌گیرد.
در این مرحله، مسئله دیگر منشأ یک پدیده نیست.
مسئله این است که در چه سیستمی به حیات خود ادامه می‌دهد.
اقتصاد مدرن استعداد عجیبی دارد برای اینکه هر چیزی را که قابل اندازه‌گیری، توزیع یا بهره‌برداری باشد وارد منطق محصول کند.
اتومبیل فقط وسیله حمل‌ونقل نمی‌فروشد؛ جایگاه اجتماعی می‌فروشد.
بیمه فقط قرارداد مالی نمی‌فروشد؛ امنیت روانی می‌فروشد.
شبکه اجتماعی فقط ارتباط نمی‌فروشد؛ تأیید اجتماعی، خشم، تعلق و کنجکاوی را تبدیل به زمان حضور و درآمد تبلیغاتی می‌کند.
سیاست نیز فقط مجموعه‌ای از قوانین نیست. امنیت، امید، هویت، ترس و تعلق می‌فروشد.
حتی نهادهای مذهبی، صرف‌نظر از منشأ تاریخی خود، در جهان مدرن ناچارند برای توجه، وفاداری و بازتولید خود رقابت کنند.
احساسات حذف نشده‌اند.
برعکس، شاید هیچ دوره‌ای از تاریخ به اندازه امروز احساسات انسان اندازه‌گیری، تحریک و تجاری‌سازی نشده باشد.
مسئله حذف احساسات نیست
اشتباه است اگر آینده ذهن جمعی را جهانی سرد تصور کنیم که در آن انسان دیگر عشق، ترس، غم یا لذت را تجربه نمی‌کند.
احساسات احتمالاً باقی خواهند ماند.
اما جایگاه آن‌ها تغییر خواهد کرد.
در بسیاری از سیستم‌هایی که امروز ساخته‌ایم، احساسات هدف نیستند؛ ابزار هستند.
یک تبلیغ به احساس نوستالژی ارزش ذاتی نمی‌دهد. از آن استفاده می‌کند تا خرید ایجاد کند.
شبکه اجتماعی خشم را به این دلیل تقویت نمی‌کند که خشم برای انسان خوب است؛ آن را تقویت می‌کند اگر زمان حضور و تعامل را افزایش دهد.
سیاست می‌تواند از ترس، امید یا حس تعلق استفاده کند، نه به این دلیل که این احساسات خودشان ارزش نهایی‌اند، بلکه به دلیل رفتارهایی که ایجاد می‌کنند.
هایو مایند این روند را به مرحله‌ای تازه می‌برد.
در جهان امروز، سیستم باید احساس انسان را از بیرون حدس بزند.
در یک شبکه شناختی، احساس می‌تواند مستقیماً تبدیل به داده شود.
غم، اضطراب، اعتماد، اشتیاق یا ترس می‌توانند به وضعیت‌هایی قابل اندازه‌گیری تبدیل شوند؛ وضعیت‌هایی که سیستم قادر است آن‌ها را با میلیون‌ها تجربه دیگر مقایسه کند، پیش‌بینی کند و در صورت نیاز تغییر دهد.
در آن نقطه، احساس از بین نرفته است.
اما از «تجربه‌ای متعلق به فرد» به «ورودی قابل پردازش سیستم» تبدیل شده است.
شاید خطر اصلی دقیقاً همین باشد.
نه اینکه ماشین احساسات ما را از ما بگیرد، بلکه اینکه احساسات ما آن‌قدر قابل اندازه‌گیری و بهینه‌سازی شوند که دیگر کارکرد مستقلی خارج از سیستم نداشته باشند.
از شبکه‌های انسانی تا ذهن‌های حاکمیتی
حتی در این مرحله نیز بعید است یک ذهن جمعی واحد برای تمام بشریت شکل بگیرد.
احتمال محتمل‌تر، پیدایش چندین ذهن جمعی رقیب است.
و مرز میان این شبکه‌ها احتمالاً فقط تجاری نخواهد بود.
هر فناوری که امکان اتصال مستقیم شناخت انسان‌ها، هوش مصنوعی و زیرساخت‌های حیاتی را فراهم کند، دیر یا زود به مسئله امنیت ملی تبدیل می‌شود.
همان‌گونه که دولت‌ها امروز فناوری‌های هسته‌ای، ارتباطات دفاعی، سامانه‌های ماهواره‌ای و بخشی از فناوری‌های هوش مصنوعی را زیر کنترل مستقیم یا غیرمستقیم خود قرار می‌دهند، شبکه‌های شناختی نیز نمی‌توانند برای همیشه خارج از منطق قدرت باقی بمانند.
در نتیجه، آینده ممکن است نه یک Hive Mind جهانی، بلکه مجموعه‌ای از ذهن‌های جمعی حاکمیتی باشد.
هر یک با مدل‌های هوش مصنوعی، زیرساخت، حافظه، استانداردهای شناختی و حتی روایت‌های تاریخی متفاوت.
در چنین سیستمی، تجربه هر انسان می‌تواند مانند یک گره در شبکه عمل کند.
اما برای اینکه این شبکه بتواند میلیاردها تجربه را با یکدیگر ترکیب کند، ناچار است آن‌ها را فشرده کند.
بخش‌هایی از تجربه که قابل تعمیم نیستند کنار گذاشته می‌شوند.
احساسات به متغیر تبدیل می‌شوند.
شهود به الگو تبدیل می‌شود.
خاطره به داده تبدیل می‌شود.
و منطق، چون راحت‌تر قابل استانداردسازی و انتقال است، سهم بیشتری از پردازش مشترک را در اختیار می‌گیرد.
این به معنای مرگ احساس نیست.
به معنای کاهش وزن آن در ساختار تصمیم‌گیری است.
اجبار بدون اجبار
هیچ دولت یا شرکتی لازم نیست روزی اعلام کند:
«از امروز همه باید به ذهن جمعی متصل شوند.»
چنین آینده‌ای احتمالاً بسیار ساده‌تر شکل می‌گیرد.
اگر فرد متصل بتواند ده برابر سریع‌تر کار کند، کارفرما او را ترجیح می‌دهد.
اگر سرباز متصل واکنش سریع‌تری داشته باشد، ارتش او را ترجیح می‌دهد.
اگر پزشک متصل بتواند اطلاعات بیشتری را هم‌زمان تحلیل کند، بیمار او را ترجیح می‌دهد.
اگر مدیر متصل تصمیم‌های دقیق‌تری بگیرد، بازار به او پاداش می‌دهد.
در هر مرحله، انتخاب ظاهراً آزاد است.
اما مجموعه این انتخاب‌های آزاد می‌تواند شرایطی بسازد که در آن عدم اتصال از نظر اقتصادی معادل حذف شدن باشد.
این همان اجبار سیستمی است.
نه زندانی وجود دارد، نه فرمانی و نه حتی لزوماً طراح مرکزی.
فقط مجموعه‌ای از انتخاب‌های کاملاً منطقی وجود دارد که در کنار یکدیگر یک نتیجه جمعی می‌سازند.
و این شاید خطرناک‌ترین نوع اجبار باشد، چون هیچ‌کس را نمی‌توان مسئول مستقیم آن دانست.
آخرین کالای سرمایه‌داری
سرمایه‌داری در طول تاریخ مدرن موفق شده تقریباً هر منبع قابل بهره‌برداری را وارد چرخه تولید کند.
زمین.
زمان.
نیروی کار.
توجه.
اطلاعات شخصی.
روابط اجتماعی.
هویت.
و حالا شاید آخرین مرز در برابر آن خودِ تجربه درونی انسان باشد.
اگر هوش مصنوعی بتواند شناخت ما را مدل کند و رابط‌های عصبی بتوانند این شناخت را مستقیماً به شبکه متصل کنند، دیگر فقط توجه یا داده انسان قابل فروش نیست.
خودِ ذهن به زیرساخت اقتصادی تبدیل می‌شود.
در چنین جهانی شاید فقر، بیماری و بسیاری از ناکارآمدی‌هایی که امروز طبیعی می‌دانیم کاهش پیدا کنند.
تصمیم‌ها سریع‌تر می‌شوند.
منابع بهتر توزیع می‌شوند.
خطاهای انسانی کمتر می‌شوند.
اما پرسش اینجاست که در برابر این کارایی چه چیزی را واگذار می‌کنیم؟
اگر فردیت، عاطفه، شهود و حتی خاطره تنها تا جایی ارزش داشته باشند که برای سیستم مفید باشند، آیا هنوز می‌توان آن‌ها را واقعاً متعلق به انسان دانست؟
و شاید مسئله نهایی اصلاً این نباشد که ذهن جمعی ما را تسخیر خواهد کرد یا نه.
مسئله این است که اگر روزی اتصال به آن عاقلانه‌ترین، سودآورترین و امن‌ترین انتخاب ممکن باشد، چه کسی حاضر خواهد بود خارج از آن باقی بماند؟
و اگر همه دلایل منطقی ما را به داخل شبکه هدایت کنند، آیا در نهایت چیزی جز همان بخش‌های غیرمنطقی، عاطفی و شخصی انسان باقی خواهد ماند که بتواند در برابر آن مقاومت کند؟