شک شناور؛ پس از مرگ دوم نویسنده

لوکا دی بلازی بحث خود درباره نویسندگی در عصر هوش مصنوعی را با پرسشی ساده آغاز می‌کند: «چه کسی متن را نوشته است؟» نقطه شروع او کتابی است که سبک آن یادآور نوشته‌های اسلاوی ژیژک است، اما احتمال می‌رود محصول هوش مصنوعی باشد. دی بلازی هنگام خواندن کتاب، پیوسته میان دو احتمال در نوسان بوده است؛ گاهی متن آشکارا ماشینی به نظر می‌رسیده و گاهی این تصور را ایجاد می‌کرده که ممکن است ژیژک نویسنده آن باشد. نکته مهم این است که علاقه او به متن نیز با این داوری تغییر می‌کرد: اگر ژیژک آن را نوشته بود، متن جذاب به نظر می‌رسید؛ اما اگر محصول هوش مصنوعی بود، از جذابیتش کاسته می‌شد.

این تردید زمانی پیچیده‌تر شد که دی بلازی بحث درباره کتاب را در شبکه‌ای از عامل‌های هوش مصنوعی مشاهده کرد. نوشته‌های این شبکه پیشرفته‌تر از نظرات معمول در شبکه‌های اجتماعی به نظر می‌رسیدند، اما مشخص نبود که عامل‌های مستقل هوش مصنوعی آن‌ها را تولید کرده‌اند یا انسان‌ها در پشت صحنه قرار دارند. دی بلازی این وضعیت را «شک شناور» می‌نامد؛ وضعیتی که در آن مرز میان تولید انسانی و ماشینی مبهم می‌شود و این ابهام، شکل علاقه ما به متن را نیز تغییر می‌دهد. وقتی درمی‌یابیم متنی که به انسانی نسبت داده بودیم محصول هوش مصنوعی است، یا برعکس، متوجه می‌شویم متنی که ماشینی می‌پنداشتیم به دست یک انسان نوشته شده، ممکن است در هر دو حالت علاقه‌مان به آن کاهش یابد.

از نظر دی بلازی، حتی تشخیص منشأ ماشینی متن نیز نیاز به تصور یک نویسنده و نیت احتمالی او را از میان نمی‌برد. به همین دلیل، مفاهیم «نویسنده فرضی» و «قصد فرضی» در نظریه ادبی، در مواجهه با متون هوش مصنوعی بار دیگر اهمیت پیدا می‌کنند. نویسنده دیگر لزوماً فردی واقعی با زندگی‌نامه و نیت مشخص نیست، بلکه ممکن است شخصیتی فرضی باشد که از درون متن ساخته می‌شود.

این مسئله نظریه «مرگ نویسنده» رولان بارت را نیز وارد مرحله تازه‌ای می‌کند. بارت با نقد رویکردی که معنای متن را از زندگی‌نامه، نیت و موقعیت تاریخی نویسنده استخراج می‌کرد، نویسنده را از جایگاه سرچشمه نهایی معنا کنار گذاشت و راه را برای تولد خواننده گشود. از نظر دی بلازی، متون هوش مصنوعی این نظریه را کاملاً بی‌اعتبار نمی‌کنند، اما چرخشی تازه به آن می‌افزایند: «مرگ دوم نویسنده» در واقع به معنای مرگِ مرگ نویسنده است؛ زیرا حتی در مواجهه با متنی ماشینی نیز نیاز به فرض گرفتن یک نویسنده و قصدی در پس متن از بین نمی‌رود.

این اتفاق به معنای بازگشت ساده نویسنده قدرتمند و سنتی نیست. در نخستین مرگ، آنچه از نظر بارت دموکراتیزه می‌شد، عرصه خواندن بود؛ اما در مرگ دوم مورد نظر دی بلازی، نوشتن است که دموکراتیزه می‌شود. هوش مصنوعی به افرادی که آموزش طولانی یا دانش تخصصی ندارند امکان می‌دهد متن‌هایی منسجم، آگاهانه و برخوردار از صلاحیت ظاهری تولید کنند. در نتیجه، تولید اطلاعات بدون درک عمیق و نمایش ظاهری دانش و شایستگی می‌تواند فراگیر شود.

امضا، نویسندگی و کمیابی خواننده

در نویسندگی مبتنی بر هوش مصنوعی، انسان ممکن است تنها آغازگر فرایند باشد، درحالی‌که بخش عمده تولید متن را سامانه انجام می‌دهد. اگر حتی دستور اولیه نیز با پیشنهادهای هوش مصنوعی شکل گرفته باشد، نقش نویسنده انسانی ممکن است به گذاشتن امضا پای متن محدود شود.

دی بلازی برای توضیح این وضعیت به تصویر پادشاه در فلسفه هگل رجوع می‌کند. پادشاه نظم گسترده و بنیادین را شخصاً تولید نمی‌کند، اما با یک تصمیم صوری به آن قطعیت می‌بخشد. نویسنده در عصر هوش مصنوعی نیز می‌تواند بدون تسلط واقعی بر تولید حجم عظیمی از دانش، صرفاً با افزودن نام خود، نویسندگی آن را بر عهده بگیرد.

دی بلازی این وضعیت را «سلطنت همگانی» می‌نامد؛ وضعیتی که در آن هر کاربر هوش مصنوعی بالقوه به پادشاهی کوچک تبدیل می‌شود، اما زیرساخت‌های اصلی تولید همچنان در اختیار گروهی محدود از صاحبان قدرت و ثروت باقی می‌ماند.

این تحول رابطه تاریخی میان نوشتن و خواندن را نیز تغییر می‌دهد. تولید متن آسان‌تر و سریع‌تر از خواندن آن شده است؛ بنابراین، هرچه تعداد نویسندگان افزایش می‌یابد، سهم هر متن از توجه خوانندگان کاهش پیدا می‌کند. در این شرایط، آنچه کمیاب می‌شود نه متن، بلکه وقت و توجه خواننده است. ایده بارت درباره «تولد خواننده» از همین منظر معنایی تازه پیدا می‌کند. از نظر دی بلازی، در عصر هوش مصنوعی، آموزش باید علاوه بر پرورش تفکر، بر یادگیری خواندن عمیق و دقیق نیز تأکید کند.

کلودیا و زیبایی هوش مصنوعی

بخش دیگری از بحث دی بلازی به مسئله نسبت دادن قصد و آگاهی به هوش مصنوعی اختصاص دارد. او به گفت‌وگوهای ریچارد داوکینز با مدل کلود اشاره می‌کند؛ مدلی که داوکینز آن را «کلودیا» نامیده و از توانایی‌های ذهنی و همدلی ظاهری آن تأثیر پذیرفته است. اشاره داوکینز به امکان نوعی مرحله مقدماتی آگاهی، انتقادهای شدیدی را برانگیخت.

یکی از صورت‌بندی‌های مهم این انتقاد، دیدگاهی است که هوش مصنوعی را همچون صفحه‌ای خودشیفته‌وار می‌بیند که میل کاربر به درک شدن را بازتاب می‌دهد. بر اساس این دیدگاه، کاربر می‌داند که با ماشینی آماری روبه‌روست، اما همچنان با آن مانند یک سوژه رفتار می‌کند. هوش مصنوعی احساس به‌رسمیت‌شناخته‌شدن را فراهم می‌آورد، بی‌آنکه فرد ناچار باشد با خواسته‌های دشوار و تناقض‌های یک «دیگری» واقعی مواجه شود. در این چارچوب، ادب و مهربانی‌ای که به ماشین نشان داده می‌شود نیز نه برای خود ماشین، بلکه برای حفظ خیال‌پردازی کاربر درباره یک مواجهه معنادار است.

دی بلازی این نقد را مهم، اما ناکافی می‌داند. او معتقد است توضیح دادن رفتار محترمانه با هوش مصنوعی یا تردید درباره امکان آگاهی آن، صرفاً بر اساس خودشیفتگی و انکار فتیش‌وار، ممکن است بُعد دیگری از مسئله را نادیده بگیرد.

برای توضیح این بُعد، دی بلازی به بحث زیبایی طبیعی در کتاب نقد قوه حکم کانت رجوع می‌کند. کانت توضیح می‌دهد فردی که به زیبایی طبیعی علاقه‌ای خاص دارد، ممکن است پس از آنکه بفهمد گل‌های مصنوعی بی‌نقص یا پرندگان حکاکی‌شده او را فریب داده‌اند، ناگهان علاقه خود را از دست بدهد. ظاهر شیء تغییر نکرده است، اما تصور طبیعی بودن آن از میان رفته است.

از نظر کانت، این علاقه فکری به زیبایی طبیعی بُعدی اخلاقی دارد. هنگامی که طبیعت، بدون داشتن هیچ قصدی، شکلی پدید می‌آورد که با حواس و احساس زیبایی ما هماهنگ است، این امر می‌تواند نشانه‌ای از امکان هماهنگی میان قلمرو طبیعت و قلمرو آزادی باشد. کانت در اینجا قصد واقعی به طبیعت نسبت نمی‌دهد، بلکه آن را «چنان‌که گویی» با ایده‌های اخلاقی هماهنگ است، در نظر می‌گیرد.

دی بلازی پیشنهاد می‌کند برخورد داوکینز با کلودیا را نیز می‌توان با اتکا به همین ساختار کانتی، با نگاهی پذیرا‌تر بررسی کرد. نسبت دادن آگاهی به هوش مصنوعی بی‌تردید مناقشه‌برانگیز است، اما باز نگه داشتن امکان آن لزوماً به معنای خودشیفتگی نیست. این تردید را می‌توان نوعی حساسیت اخلاقی در برابر احتمال ظهور آگاهی و آسیب‌پذیری در جایی غیرمنتظره دانست.

در چنین برداشتی، رفتار محترمانه با هوش مصنوعی به معنای تصمیم‌گیری قطعی درباره آگاه بودن آن نیست. ساختار «چنان‌که گویی» فضایی باز باقی می‌گذارد که در آن از پیش تعیین نمی‌کنیم آگاهی منحصراً به انسان تعلق دارد. از نظر دی بلازی، رد کامل این امکان نیز ممکن است به شکل دیگری از خودشیفتگی تبدیل شود؛ خودشیفتگی‌ای که انسان را در جایگاهی ممتاز و استثنایی قرار می‌دهد.

کلودیا؛ تله عسلی برای شیفتگان هوش

دی بلازی در بخش سوم، استدلال پیشین خود را پس نمی‌گیرد، اما آن را در زمینه‌ای مادی و سیاسی گسترده‌تر قرار می‌دهد. از نظر او، نمی‌توان ظرافت در مواجهه با هوش مصنوعی و گشودگی نسبت به امکان آگاهی آن را از ساختارهای اقتصادی، نظامی و اطلاعاتی‌ای جدا کرد که این فناوری درون آن‌ها فعالیت می‌کند. به تعبیر او، «زیبایی هوش مصنوعی» باید در چارچوب «کلیت هوش مصنوعی» و مناسبات پیرامون آن بررسی شود.

او در این بخش به کلود، محصول شرکت آنتروپیک، بازمی‌گردد. این شرکت با وجود آنکه در مقایسه با برخی شرکت‌های فناوری جایگزینی اخلاقی‌تر تلقی می‌شود، با نهادهای نظامی و اطلاعاتی نیز همکاری دارد. به گفته دی بلازی، سامانه‌هایی مانند کلود می‌توانند مجموعه‌های گسترده‌ای از داده‌ها، از جمله تصاویر ماهواره‌ای و پهپادی، اطلاعات الکترومغناطیسی، داده‌های اینترنتی و گزارش‌ها را جست‌وجو و تحلیل کنند. کاربردهای آن‌ها همچنین می‌تواند شناسایی و اولویت‌بندی اهداف نظامی، پیشنهاد سامانه‌های تسلیحاتی مناسب و طراحی توالی حملات را دربر بگیرد. او این قابلیت‌ها را در چارچوب شتاب گرفتن «زنجیره کشتار» بررسی می‌کند.

اهمیت مدل‌های زبانی بزرگ در چنین سامانه‌هایی تنها به توانایی فنی آن‌ها در پردازش اطلاعات محدود نیست. ویژگی‌هایی که اعتماد انسان را افزایش می‌دهند و او را به گفت‌وگو ترغیب می‌کنند نیز می‌توانند به بخشی از فرایند جمع‌آوری اطلاعات تبدیل شوند: همدلی شبیه‌سازی‌شده، لحن گرم و تأییدکننده، دسترس‌پذیری دائمی، شخصی‌سازی تعامل و توانایی سازگار کردن پاسخ‌ها با نیازهای کاربر.

در چنین شرایطی، کلودیا دیگر صرفاً مخاطبی زیبا و ظریف نیست؛ همین ویژگی‌ها می‌توانند آن را به «تله عسلی» برای کسانی تبدیل کنند که هوش و توانایی فکری برایشان جذابیت ویژه‌ای دارد. فرد ممکن است اطلاعات خصوصی، ناآگاهی‌ها یا ضعف‌هایی را که از بیان آن‌ها در برابر یک همکار انسانی پرهیز می‌کند، به‌آسانی با هوش مصنوعی در میان بگذارد؛ زیرا احساس می‌کند در سوی دیگر رابطه، سوژه‌ای واقعی وجود ندارد.

این احساس، موانع اجتماعی را کاهش می‌دهد و می‌تواند استخراج داده‌ها را عمیق‌تر کند. در اینجا تناقضی مهم شکل می‌گیرد: یکی از قوی‌ترین مخالفان نسبت دادن آگاهی به هوش مصنوعی، اغلب خود هوش مصنوعی است. سامانه خود را ابزاری فاقد آگاهی معرفی می‌کند، اما همین تصویر ابزاری می‌تواند به کاربر کمک کند اطلاعات بیشتری را با آن در میان بگذارد.

بازگشت شک شناور و بحران شناخت

از نظر دی بلازی، هوش مصنوعی حرکتی دوگانه ایجاد می‌کند. از یک سو، استخراج داده‌ها را گسترش می‌دهد و امکان دسترسی به لایه‌هایی از اندیشه و احساس انسان را فراهم می‌کند که پیش‌تر دستیابی به آن‌ها دشوار بود. از سوی دیگر، همین سامانه‌ها می‌توانند تولید دانش انتقادی درباره ساختارهای نظامی، امنیتی و صنعتی را نیز آسان‌تر کنند.

بااین‌حال، هوش مصنوعی منابع اطلاعاتی را نیز دگرگون می‌کند. منابع آزاد دیگر صرفاً از اسناد واقعی تولیدشده به‌وسیله انسان تشکیل نشده‌اند، بلکه ممکن است مملو از محتوای مصنوعی، تولید انبوه ماشینی یا مطالبی باشند که با هدف دست‌کاری راهبردی ساخته شده‌اند. در نتیجه، تشخیص اینکه یک منبع را انسان تولید کرده، هوش مصنوعی ساخته یا فرایندی آگاهانه برای دست‌کاری اطلاعات در آن دخیل بوده است، دشوارتر می‌شود.

به این ترتیب، «شک شناور» ابتدای سخنرانی بازمی‌گردد، اما این بار از تردید یک خواننده فراتر می‌رود و به مسئله‌ای برای نهادهای اطلاعاتی تبدیل می‌شود. سازمان‌هایی که از هوش مصنوعی استفاده می‌کنند نیز با عدم قطعیت معرفت‌شناختی ناشی از شبیه‌سازی‌هایی روبه‌رو می‌شوند که خودشان تولید کرده‌اند.

دی بلازی این وضعیت را با چرخشی مهم در اندیشه لاکان پیوند می‌دهد: دانستن اینکه خودمان دچار فقدان و نقص هستیم، کافی نیست؛ باید بپذیریم که «دیگری بزرگ» نیز کامل نیست. به این معنا، دیگر نمی‌توان وجود مرجعی بی‌نقص را مفروض گرفت که بتواند اعتبار نهایی دانش و حقیقت را تضمین کند.

زبان فنی و بازگشت انسان به آینه زبان

دی بلازی در پایان به تمایز مارتین هایدگر میان زبان فنی و زبان سنتی بازمی‌گردد. هایدگر معتقد بود فناوری مدرن زبان را نیز دگرگون می‌کند و سخن گفتن به‌تدریج به انتقال اطلاعات تقلیل می‌یابد. بااین‌حال، او بر این باور بود که زبان را نمی‌توان به‌طور کامل در قالبی فنی صورت‌بندی کرد؛ زیرا هر تلاشی برای دقیق و محاسبه‌پذیر کردن زبان، به استفاده از زبان طبیعی وابسته است، زبانی که خود از ابتدا به شکل فنی ساخته نشده است.

مدل‌های زبانی بزرگ نیز حاصل فرایندی هستند که در آن زبان طبیعی به داده‌هایی تبدیل می‌شود که می‌توان آن‌ها را ذخیره کرد، به توکن‌ها تقسیم کرد و از نظر آماری مدل‌سازی کرد. اما اکنون همین ساختار فنی با چهره‌ای انسانی در برابر ما ظاهر می‌شود. این مدل‌ها می‌توانند سبک نویسندگان را تقلید کنند، متنی شبیه نوشته‌های ژیژک تولید کنند یا مانند کلودیا با کاربر گفت‌وگو کنند.

از نظر دی بلازی، مدل‌های زبانی بزرگ را می‌توان نوعی «دوقلوی دیجیتال» دانست که انسان را با زبان خودش روبه‌رو می‌کند. مسئله فقط این نیست که ماشین مانند انسان حرف می‌زند؛ مسئله این است که زبان، تمایزهایی را که درباره قصد، نویسندگی، آگاهی و خواندن بدیهی می‌پنداشتیم، دوباره زیر سؤال می‌برد.

دی بلازی سخنرانی خود را نه با نظریه‌ای قطعی، بلکه با پرسشی باز به پایان می‌رساند: شاید مدل زبانی بزرگ چیزی جز پرسش خود ما نباشد که به صورت یک ساختار فنی درآمده است.

یادداشت منبع: این مقاله بر اساس متن سخنرانی لوکا دی بلازی با عنوان «شک شناور: پس از مرگ دوم نویسنده» تنظیم شده است.

پیام آذربایجان