چند روز پیش آزمایشی انجام دادم تا ببینم می‌‌توان مسئولیت یک پژوهش واقعی را به هوش مصنوعی سپرد یا نه. موضوع را از حوزه‌ای انتخاب کردم که سال‌هاست می‌شناسم. آموزش نویسندگی در ایران.
پرامپت را با وسواس نوشتم. از مدل نخواستم نویسندگان مشهور را معرفی کند. خواستم کسانی را پیدا کند که واقعاً نویسندگان دیگری را پرورش داده‌اند. برای ارزیابی هم معیار گذاشتم سابقه آموزش، کیفیت تدریس، تعداد شاگردان، آثار آموزشی، اعتبار حرفه‌ای، تأثیر بر نسل بعد، رویکرد آموزشی، مهم‌ترین نقدها. حتی تأکید کردم اگر درباره کسی داده‌ی کافی وجود ندارد، همان را بنویسد. پاسخ در نگاه اول، کامل به نظر می‌رسید. متنی بلند که جدول، امتیاز رتبه‌بندی، روش‌شناسی داشت. حتی درباره‌ی محدودیت داده‌ها هشدار داده بود. همه‌چیز شبیه یک پژوهش واقعی بود. اما فقط چند دقیقه کافی بود تا این تصویر ترک بردارد.
رتبه‌ها با معیارهای اعلام‌شده سازگار نبودند. بعضی افراد اصلاً در فهرست دیده نمی‌شدند. برای بعضی افراد اطلاعاتی نوشته شده بود که نمی‌شد ردپایی از آن‌ها پیدا کرد. بعضی داده‌ها هم با منابع عمومی سازگار نبودند. اما مسئله اصلی، خطاها نبودند. مدل حتی زحمت یک جست‌وجوی ساده را هم نکشیده بود. اگر خودم همان عبارت را در گوگل جست‌وجو می‌کردم و فقط دو صفحه اول را می‌خواندم، داده‌های کامل‌تر و معتبرتری پیدا می‌کردم. با این حال، خروجی طوری نوشته شده بود که انگار حاصل هفته‌ها پژوهش، مقایسه و تحلیل است.
همان‌جا فهمیدم با یک پژوهش روبه‌رو نیستم. نقشه‌ای دارم برای سرزمینی که وجود ندارد. روی نقشه، همه‌چیز دیده می‌شد. شهرها، جاده‌ها، مرزها، نشانه‌ها. همه‌چیز دقیق و حساب‌شده به نظر می‌رسید. اما هرچه جلوتر رفتم، معلوم شد بعضی شهرها هرگز وجود نداشته‌اند. نقشه، حس جهت می‌داد، اما نه جهت واقعی. به نظرم، خطر اصلی هوش مصنوعی همین‌جاست. مسئله فقط اشتباه بودن یک پاسخ نیست. مشکل اینجاست که احساسِ رسیدن به حقیقت را ایجاد می‌کند، بی‌آنکه مسیر رسیدن به حقیقت را طی کرده باشد. ظاهر پژوهش را بازسازی می‌کند، بی‌آنکه الزاماً خود پژوهش را ساخته باشد.
وقتی متنی با جدول، رتبه‌بندی، تحلیل و روش‌شناسی روبه‌رویمان قرار می‌گیرد، کمتر تردید می‌کنیم. درست از همین لحظه، نقشه جای سرزمین را می‌گیرد. حالا این نتیجه را با برخورد مخاطب کم‌حوصله‌ی امروز بسنجید. هزینه این خطا فقط یک پاسخ نادرست نیست. کسی براساس همین نقشه استاد انتخاب می‌کند. کسی مسیر یادگیری‌اش را عوض می‌کند. کسی به همان اطلاعات استناد می‌کند. بعد همان اطلاعات دوباره منتشر می‌شوند، نقل می‌شوند و کم‌کم شبیه حقیقت به نظر می‌رسند. هر بار که این اتفاق تکرار می‌شود، فاصله‌ی ما با سرزمین واقعی بیشتر و بیشتر می‌شود.
امروز نگاهم به هوش مصنوعی و آینده تغییر کرده است نه فقط چون اشتباه می‌کند. اشتباه، بخشی از هر ابزار است. چون می‌تواند نقشه‌ای آن‌قدر دقیق رسم کند که مخاطب فراموش کند شاید سرزمینی پشت آن وجود نداشته باشد. شاید مهم‌ترین مهارت در عصر هوش مصنوعی، پیدا کردن پاسخ نباشد. تشخیص این باشد که آیا نقشه‌ای که در دست داریم، واقعاً به سرزمینی واقعی می‌رسد یا فقط تصویری از سرزمینی است که هرگز وجود نداشته است.
شاید مهم‌ترین پرسش عصر هوش مصنوعی این نباشد که «چطور از هوش مصنوعی بهتر استفاده کنیم؟»، پرسش مهم‌تر این است که «کدام توانایی‌های انسانی، از این پس ارزش بیشتری پیدا می‌کنند؟». هرچه تولید پاسخ آسان‌تر می‌شود، تشخیص کیفیت پاسخ دشوارتر می‌شود. هرچه تولید متن، تصویر و تحلیل ارزان‌تر می‌شود، قدرت تشخیص، قضاوت و تردید گران‌تر می‌شود. در چنین جهانی، کسی متمایز است که فقط اطلاعات بیشتری ندارد، بلکه بهتر می‌بیند و می‌تواند ردپای یک ادعا را دنبال کند. منبع را از نقل‌قول تشخیص دهد. پژوهش را از بازسازیِ ظاهر پژوهش جدا کند. بداند هر نمودار، هر رتبه‌بندی و هر لحن مطمئنی، الزاماً به حقیقت نزدیک‌تر نیست.
شاید مهم‌ترین مهارت آینده، دیگر پاسخ دادن نباشد. پرسش باشد. اینکه بدانی چه چیزی را باید زیر سؤال ببری و کدام بخش از یک پاسخ، بیش از همه به راستی‌آزمایی نیاز دارد. ذهنی که سؤال‌های بهتری می‌سازد، کمتر فریب پاسخ‌های زیبا را می‌خورد. همزمان، ارزش پژوهش واقعی هم بیشتر از همیشه می‌شود. پژوهشی که مسیرش مشخص باشد، منابعش روشن باشند، داده‌هایش قابل بررسی باشند و نتیجه‌اش از دل شواهد بیرون آمده باشد، نه از کنار هم قرار گرفتن جمله‌هایی که فقط شبیه شواهد‌ند.
شاید در نهایت، مزیت رقابتی انسان‌ها نه سرعت باشد و نه حجم اطلاعات. مزیت واقعی، کیفیت قضاوت باشد. توانایی تشخیص نقشه از سرزمین. توانایی تشخیص حقیقت از حقیقت‌نما.
