معرفی هوش مصنوعی به عنوان «همکار» در خلق اثر

واقعیت این است که تا همینجای کار، جریان‌های سیستماتیک مشخصی در حوزه‌ علمی، فنی و حتی ادبی با هدف تشخیص کار ماشین از انسان تدارک دیده شده و این نشان می‌دهد که نگرانی‌ها جدی است. آرمان میرزانژاد (شاعر، پژوهشگر و منتقد) که در این‌باره تاملات و ملاحظات خود را در قالب یادداشت و مقالات در دست انتشار دارد، بر تبیین اصول اخلاق حرفه‌ای و مرامنامه‌هایی که بتواند با تحریک وجدان عمومی جلوی سوءاستفاده‌ از هوش مصنوعی و رواج «سرقت‌های ادبی‌ هوشمند» را بگیرد، تاکید دارد؛ هرچند که استفاده از آن در مقام «همکار» در مراحل تهیه و تولید، به شرط اذعان خالق اثر می‌تواند امری پذیرفتنی باشد.

درباره آینده هوش مصنوعی در عرصه‌های خلق هنری و ادبی، اظهار نظرات زیادی شده و شما هم اخیرا در مقاله‌ای به آن پرداخته‌اید. برای شروع کمی درباره اهمیت این موضوع و ملاحظاتی که باید لحاظ شود، توضیح دهید.

همان‌طور که می‌دانید جهان انسانی این روزها سخت درگیر دستاوردهای هوش مصنوعی است. کاربرد چند منظوره‌ این فناوری تمامی عرصه‌‌های علمی، ادبی، شغلی جوامع انسانی را یا تحت تاثیر قرار داده یا با تهدید مواجه کرده است. آنچه به عنوان ملاحظات اخلاقی در استفاده از هوش مصنوعی مطرح کردید به نظرم باید در نظر گرفته شود، چراکه هنوز تعریف روشنی از این موضوع در نهادهای آموزشی ما ارائه نشده، و این مساله به وجدان اخلاقی فرد واگذار شده است... از آنجا که ظاهرا مقوله علم و اخلاق دو موضوع جداگانه از هم به نظر می‌رسند، اما همواره اخلاق به مثابه یک کهن الگوی قضاوت‌کننده نسبت به پیشروی علم و فلسفه داوری و نظارت خود را داشته است. هوش مصنوعی مرزهای علم و فناوری را جلو برده و به همین منوال این وضعیت جدید، مساله اخلاق‌گرایی و پایبندی به اخلاق صادقانه را جدی‌تر می‌کند؛ چراکه علم در ذات خود موانع اخلاقی را برنمی‌تابد، یا به عبارت دیگر علم به معنای اخص و مستقلش با چنین پارادائمی مواجه نیست، اما اخلاق علمی این خط قرمز را می‌گذارد که از ابزار در سطح ابزار استفاده کنیم و در تولید قطعه شعر، یا داستان کوتاهی، صادقانه با خود و دیگران مواجه بشویم؛ آنچنان که اگر در تعامل با چت جی پی تی‌‌ها این آثار را تولید کرده‌ایم، مساله را غیرقابل شناسایی فرض نکنیم.

مطابق با آنچه نوشته‌اید آنچه نگران کننده خواهد بود، تهدیدات اخلاقی در به‌کارگیری هوش مصنوعی است، و نه خود هوش مصنوعی. به نظر شما چطور می‌شود این تهدیدات را مهار کرد؟ مثلا با نهادهای آموزشی، نظارتی یا حتی انتظامی و قضائی؟

کلیت سوال شما برای من جالب است از این حیث که تا حدودی جواب را در خود منعکس ساخته است. به عقیده من ترکیبی از نهادهای آموزشی، نظارتی، انتظامی و قضائی لازم است در زمانی که استفاده از تکنولوژی هوش مصنوعی علیه «دیگری» در ابعاد فردی، ملی یا دولتی استفاده شود. در گام نخست نهاد آموزش و پرورش وآموزش عالی کشورها مطمئنا درصدد این بر‌می‌آیند که دروسی مثل «مباحث اخلاقی در استفاده هوش مصنوعی» را در مدارس و دانشگاه‌‌ها تبیین و اداره کنند، شاید این درس‌‌ها عمومی شود و همه دانش آموزان و دانشجویان از آن بهره ببرند و شاید نیاز جدی‌تر این باشد که دانشجویان علوم کامپیوتر و گرایش هوش مصنوعی یا رشته‌‌های فنی و حرفه‌ای به عنوان نیروی مولد و سازنده در جامعه، بیشتر نیازمندِ رعایتِ اخلاق حرفه‌‌‌ای در این زمینه باشند. مثلا نگاه کنید وقتی دیپ فیک در سال 2017 توانست با استفاده از هوش مصنوعی، شبیه‌سازی چهره برخی از هنرپیشگان سینمای هالیوود آن را به شکلی پرنوگرافیک نشان بدهد چه غوغای رسانه‌‌‌ای شد و چقدر مساله اخلاق و کرامت انسانی اهمیت پیدا کرد. در گام بعد متخصصان (چه دانشگاهی، چه غیر آن‌) در این رشته هم لازم است بازگشت به اصلِ اخلاق را برای تاب‌آوری جامعه بازتعریف کنند و خودشان هم مقید به آن اجرای آن باشند. در برخی از موارد هم مساله گواهی‌نامه اخلاق ِ استفاده از هوش مصنوعی هم مطرح می‌شود که کار کاربر به مباحث قضائی، امنیتی نکشد و این برای امنیت جامعه در برابر انسان‌‌های روان پلید و تروریست کاملا منطقی است. البته در نظر بگیریم که جدای از مزیت‌‌های استفاده از هوش مصنوعی، این فناوری می‌تواند در توانمندسازی سیستم‌‌های نظارتی و کنترلی دولت‌ها علیه مخالفانشان به معنای فوکویی کلمه، استفاده شود همان‌طور که جورجیو آگامبن فیلسوف ایتالیایی در مصاحبه‌‌‌ای با ژولیت سِرف درخصوص سیستم‌‌های بایومتریک می‌گفت؛ این سیستم‌‌ها قبلا برای نظارت مجرمان سابقه‌دار ابداع و استفاده می‌شده و امروز به هر شهروند به مثابه یک تروریست می‌نگرد. آگامبن با این اوصاف بازگشت نئوفاشیسم در اروپا را نوید می‌داد! این بار این نظارت با هوش مصنوعی در سطح وطنی و جهانی اتفاق افتاده و در نتیجه باعث می‌شود آزادی اندیشه و بیان بیش از پیش محدودتر شود.

در ادامه با این هشدار مواجه‌ایم که جایگاه هوش مصنوعی به عنوان «همکار توانمند» مورد پذیرش است و نه «رقیب.» به نظر شما چقدر می‌توان در مسیر توسعه‌ی علم، به چنین خطوط قرمزی پایبند بود؟

این موضوع بستگی به نگرش و دایره کاربرد ما از این پدیده پیشرفته دارد که جایگاه هوش مصنوعی را به عنوان همکار توانمند تلقی کنیم یا رقیب؛ البته هر دو می‌تواند باشد. در بافت ادبیات اگر بخواهیم به این پرسش فکر کنیم، تا به‌حال کمتر دیده‌ایم شاعر یا نویسنده‌‌‌ای بیاید صمیمانه و صادقانه بگوید این شعر یا داستان را با همکاری هوش منصوعی نوشته‌ام. غالبا برخورد دوگانه‌‌‌ای را شاهده بوده‌ام یا هوش مصنوعی به مثابه یک «دیگری» نفرت‌برانگیز دیده شده و بیشتر همکاران ما با حالتی از خوارداشت و تحقیر به دنبال ضعف‌‌ها و کاستی‌‌های آن می‌گردند، یا شیفتگی و اعتیاد به چت جی‌پی‌تی‌‌ها شاید در خفا دارد اتفاق می‌افتد و ما بی‌خبر هستیم... مساله در عرصه‌‌های دیگر جدی‌تر است؛ در خبرها خوانده‌اید که «هایائو میازاکی، انیمه‌ساز افسانه‌ای و هم‌بنیان‌گذار استودیو جیبلی، از هوش مصنوعی انتقاد کرده و آن را توهین به زندگی دانسته است» و انتقادش به هوش مصنوعی به خاطر عدم انعکاس درد و عواطف انسانی است. شاید برای شما جالب باشد که به نظر می‌رسد خطوط قرمزی در میان نباشد اما الگوریتم‌‌های تشخیصی هم وجود دارند؛ برنامه‌‌هایی که می‌توانند تشخیص دهند خصایص زبانی یک اثر علمی یا ادبی را که مد نظر است، سروده انسان است یا ماشین.

ممکن است کمی بیشتر درباره استفاده به‌عنوان همکار... توضیح دهید؟ مثلا اشاره کرده‌اید به بهره‌مندی از هوش مصنوعی در غنای زبان.

بله؛ در زمینه ادبیات و علوم انسانی اگر شما پیشتر کار پژوهشی در بستر دانشگاه انجام می‌دادید، سعی می‌کردید طرح و موضوع پژوهشی خود را با اساتید راهنما و مشاور رشته تخصصی خود در میان بگذارید و بعد بروید دنبال منابع و داده‌‌های پژوهشی (کتاب‌ها، مقالات، رساله‌ها، بانک مقالات در فضای مجازی، اس‌‌‌ای‌دی، ساینس دایرکت، گوگل اسکالر) و بعد تک‌تک موارد مرتبط را از دل متون مورد نظر در بیاورید که مرتبط به موضوع مورد بحث‌تان باشد. امروزه برای شناخت آثار ادبی برجسته جهان، یا نقد و پژوهش در و بر آن آثار می‌توانید از چت جی پی تی‌‌ها سوال بپرسید و هرچه این سوالات ریزتر، جزئی‌تر و مصداقی‌تر باشد، جواب‌‌ها هم به همین منوال خیره‌کننده است و می‌توانید با درمیان گذاشتن فکر و ایده خود و تفکر درباره ایده‌‌‌ای که هوش مصنوعی می‌دهد از این ابزار هوشمند که بیشتر از 120 میلیارد پارامتر دارد به نتایجی برسید. اگر شما با برنامه دیپ سیک کار کرده باشید، می‌بینید که این برنامه نسبت به نسخه چت جی‌پی‌تی آمریکا قابلیت‌‌های متفاوتی فراتر از الگوی زبان طبیعی دارد. یکی از آن قابلیت‌ها، خلق وارسیون‌‌های زبانی، لحنی و سبکی مختلف است؛ مثلا شما از دیپ سیک می‌توانید با جمله دستوری بخواهید که «به این شعر لحن اعتراضی بده اما به سبک بیان کلمات شعر زوزه آلن گینزبرگ آمریکایی» یا «شعری را که به تو دادم به سبک سوررئالیستی گارسیا لورکا آن را باز نویسی کن» یا دیگر ایده‌‌های ابتکاری و تلفیقی که شما می‌دهید و او یک نمونه زبانی، شکلی و روایی متفاوت تحویل‌تان می‌دهد که اشتراک میان عامل انسانی و هوش مصنوعی است. خواه اینکه سلیقه ادبی عده‌‌‌ای را راضی نگه ندارد یا نه، اما رویکرد تعاملی، در حال حاضر ژانری جدید است در ادبیات.

همان‌طور که اشاره کرده‌اید، اصالت «تجربه‌ زیسته» و ماهیت «انسانی» از کلیدواژه‌هایی است که در تمییز بین ماشین و انسان به‌کار می‌رود، اما عنایت دارید که هوشمندی، اساساً در ارتباط با پیرامون و آموزش‌پذیری و تجربه‌گرایی تعریف می‌شود. به عبارت دیگر یک سیستم هوشمند، روز‌به‌روز در حال رشد، توسعه و تجربه‌اندوزی است که این تجربیات می‌تواند انسانی باشد. با این اوصاف، چرا فکر می‌کنید همچنان شعری که سروده‌ یک انسان است، ممتاز از تولید ماشین و منحصر‌به‌فرد خواهد بود؟

همان طور که در یادداشت «خطر هوش مصنوعی و آینده ادبیات» نوشته‌ام این جواب که «تجربه زیسته» و «ماهیت انسانی» شعر‌سرایی که خط فاصله‌‌‌ای میان شعر ماشینی و شعر انسانی ایجاد می‌کند، فعلا دلیل غالب است؛ آن هم به نفع شاعران امروز، چندان هم دلیل مستحکمی نیست. چه تعداد شاعران در بیان و اجرای تجربیات زیسته خود موفق بوده‌اند؟ مساله عوامل دیگر هم است. همان‌طور که می‌دانید چهارماه پیش در نشریه گاردین این بحث پیش کشیده شد و پروفسور الینور ریچموند سرپرست این مطالعه اظهار کرد که هوش مصنوعی قادر است با تحلیل میلیون‌‌ها شعر از سبک‌‌ها و دوره‌‌های مختلف، الگویی را شناسایی کند که حتی شاعران باتجربه نیز ممکن است از آنها غافل باشند و در ادامه این سوال را هم طرح کرد که آیا این الگوریتم‌‌ها واقعا خلاق‌اند یا صرفا بازتابی از داده‌‌های موجودند؟ در کنار او افرادی هم مثل جولیان بارنز رمان‌نویس بریتانیایی هم هستند که می‌گویند هوش مصنوعی شاید از نظر فنی چشمگیر باشد اما فاقد آن« لرزش وجودی» است که تنها از تجربه زیسته انسان سرچشمه می‌گیرد. ماشین‌‌ها هرگز نمی‌توانند درد از دست دادن یا شور عشق را آنگونه که یک شاعر درک می‌کند، بیان کند. هوش مصنوعی از الگوهای زبانی، مفهومی، شکلی شعرِ از پیش موجود استفاده می‌کند، کاری که انسان هم می‌تواند بکند، با این توضیح که انسان بیش از 120 میلیارد پارامتر برای تحلیل در مدت زمان کوتاه ندارد، اما تفاوت در اینجاست که تجربه زیستی یا اکنونیت تجربی که انسان به عنوان شاعر طی می‌کند و آن تجربه‌‌‌ای عاطفی و فکری با زاویه‌دید متفاوت است، فعلا کار ماشین هوش مصنوعی نیست. شاید روزگاری نه‌چندان دور فرابرسد که هوش مصنوعی بدن‌مند و خودآگاه شود (آنچه مشابه‌اش را در ساخت و پرداخت ربات‌‌های عاطفی می‌بینیم!) و بتواند حس شهودی و رویکرد عاطفیِ موقعیت‌مند پیدا کند و تولید انبوه بشود. آنگاه مطمئنا خطر اساسی متوجه شاعران و فراتر از آن نیروی کار هم خواهد بود؛ چنان که از همین حالا هم هوش مصنوعی برخی از شغل‌‌ها را تهدید می‌کند، مثلا شغل ویراستاری یا ترجمه، معلمی و امور اداری. هرچند باز هم باید متغیرها و سیاست‌‌های کلان را در نظر گرفت. کار شعر سرودن از حیث وجودشناسی و تاریخ، هنرِ انسان‌‌ها بوده است و هوش مصنوعی نمی‌تواند تاریخ را دگرگون کرده یا از بین ببرد اما درباره تاریخ آینده، مساله قدری غیرقطعی است.

تعابیری که شما از آن یاد کرده‌اید –مثل عشق، ریشه و اصالت، خاک و خون، عدالت، رنج، آزادی‌خواهی و... - همه مفاهیمی را شامل می‌شوند که انسان هرکدام از آن‌ها را در ذهن خود ثبت می‌کند و تاثیرات آن‌ها نیز از طریق مدیریت هورمون‌ها در فیزیولوژی بدن، احساس و کنترل می‌شد. همه این موارد؛ یعنی از ذخیره و بازیابی اطلاعات و همچنین تاثرات انسانی (یعنی تجربه انسان در مواجهه با هر مفهوم) از طریق ماشین قابل درک، تحلیل و تکرار است. با این حساب، واقعا فکر می‌کنید در آینده، بشود رد پای انسان را در آثار ادبی و هنری تشخیص داد؟

ببینید همه‌ هراس یا اضطراب وجودی ما در مواجهه با هوش مصنوعی، همین احساس بی‌معنایی از موثر بودن عمل انسانی است و دیگر اینکه توانایی شناخت دقیق میان اصل و وانموده را نداشته باشیم. به عبارت شفاف‌تر ما می‌ترسیم هنر و ادبیات ماشینی بر فرهنگ و هنر انسانی غالب شود و ما احساس سترونی در جهان ادبیات و هنر بکنیم. مفاهیمی مثل عشق، ریشه، اصالت، خون، آزادی و عدالت... مفاهیم انسانی تقلید‌پذیری هستند، اما در طول تاریخ تا به امروز این مفاهیم جزو امور پرابلماتیک انسانی بوده است که محل نزاع فیلسوفان و دانشمندان بوده و مهم‌تر عمل انسان به این مفاهیم است که یک ماشین هوش مصنوعی این امر برایش تا این لحظات که من این کلمات را برای شما می‌نویسم، مطرح نیست. هرچند هوش مصنوعی این مفاهیم را صرفا می‌تواند به لحاظ زبانی نقد و تحلیل بکند. از سوی دیگر ما باید همواره رویکرد انتقادی به فناوری‌‌هایی که احتمال تهدید و آسیب به بشر را دارند، داشته باشیم به ویژه وقتی مساله ارجحیت ماشین بر انسان مطرح می‌شود چه در هنر چه در علم، قرار نیست ما برده هوش مصنوعی و آن ارباب بلامنازع ما باشد. مساله در بهترین شکلش در خدمت بودن ماشین برای انسان بوده و هست. اما در خصوص تشخیص ردپای انسان این را هم بگویم همین الان هم ابزارهای تشخیص سرقت ادبی Turnitin اخیرا به روز شده‌اند تا بتوانند تشخیص دهند که آیا بخشی از یک متن یا مقاله توسط هوش مصنوعی تولید شده است یا نه. این ابزارها البته در حوزه‌‌های آموزشی و دانشگاهی بیشتر کاربرد دارند. یا ابزار دیگری به نام GPTZero ابزاری که ادوارد تیان توسعه داده و از معیارهایی مثل پیچیدگی و بی‌قاعدگی برای تمایز بین متون انسان‌نویس و هوش مصنوعی بهره می‌برد. یا دیگر ابزارها GLTR توسط محققان دانشگاه ام‌‌‌ای‌تی توسعه داده شده، این ابزار با نمایش روندهای آماری (برای مثال احتمال کلمه‌‌های انتخابی) نشان می‌دهد که آیا متن مورد نظر مطابق با الگوهای رایج هوش مصنوعی است یا نه، اگر متن بسیار قابل پیش‌بینی باشد (یعنی احتمال انتشار کلمات یا عبارت توسط مدل‌‌های زبانی بسیار بالاتر از حالت طبیعی باشد) احتمال داده می‌شود که توسط یک مدل هوش مصنوعی تولید شده است. بنابراین در این زمینه‌‌ها تنها کسانی متضرر می‌شوند که فکر می‌کنند راه‌‌های شناخت متن و هنر انسانی از ماشینی وجود ندارد و متون ماشینی را به عنوان تالیف خود به نام خود می‌زنند. هرچند مساله تعامل و اشتراک انسان با هوش مصنوعی به عنوان همکار هم، موردی بحث برانگیز است چراکه دغدغه مالکیت اثر و حقوق معنوی آن مطرح است.