نشریه نیچر با چند نفر از دانشگاهیانی که از استفاده از هوش مصنوعی خودداری میکنند گفتگو کرده و دلایل آنها را پرسیده است. در اینجا پای صحبتهای این افراد خواهیم نشست.
به گزارش خبرآنلاین، هوش مصنوعی راه خود را به تمامی ابعاد زندگی ما باز کرده است و براساس گزارش دیگری از نیچر، بخش زیادی از مقالات علمی که امروزه منتشر میشوند، دستکم در بخشهایی از هوش مصنوعی استفاده کردهاند.
به نقل از ایسنا، دانیل کراولی از اینکه مردم به او میگویند از هوش مصنوعی مولد (genAI) استفاده کند، خسته شده است. او به عنوان یک جانورشناس دریایی در دانشگاه بنگور انگلستان، میگوید که تقریبا تنها دانشجوی دکترا در گروه خود است که از آن استفاده نمیکند. او همکارانش را دیده است که از ابزارهای genAI برای کدنویسی و تنظیم لحن ایمیلها استفاده میکنند. در یک مورد، حتی یک مدرس او را تشویق کرد که از آن برای تولید یک پوستر کنفرانس استفاده کند.
او میگوید همکارانش اغلب از شنیدن اینکه او آن را امتحان نکرده است، متعجب میشوند و به او پیشنهاد دادهاند که از آن برای کاربردهایی مانند کدنویسی استفاده کند. او به یاد میآورد: افراد زیادی بودهاند که گفتهاند باید از آن استفاده کنی. اما کراولی دلایل خودش را دارد. او در مورد اخلاق کپی رایت میگوید. او در مورد عدم شفافیت شرکتها در مورد نحوه استفاده از دادهها، اثرات زیستمحیطی ابزارهای هوش مصنوعی و دقت آنچه مدلهای genAI ارائه میدهند، نگران است.
او همچنین فکر میکند که استفاده از این ابزارها برای مطالعاتش نتیجهی معکوس خواهد داشت. او میگوید: کدنویسی مهارتی است که میخواهم یاد بگیرم و بهبود بخشم. او ترجیح میدهد خودش این کار را انجام دهد و از اشتباهاتش درس بگیرد.
ابزاری کارآمد، اما به چه قیمتی؟
براساس یک نظرسنجی از سوی نیچر از حدود ۵۰۰۰ محقق که در ماه مه سال گذشته، دانشمندان در مورد اخلاق استفاده از هوش مصنوعی در دانشگاه اختلاف نظر دارند. بیش از ۹۰ درصد از پاسخدهندگان احساس میکردند که استفاده از هوش مصنوعی برای ویرایش یا ترجمه متن قابل قبول است، اما تعداد کمتری از آنها استفاده از آن برای تولید مستقیم متن را می پذیرفتند و تنها اقلیتی گفتند که واقعا از ابزارهای هوش مصنوعی در کار خود استفاده کردهاند. حدود یک چهارم از پاسخدهندگان از آنها برای ویرایش مقالات خود استفاده کردند، در حالی که تنها هشت درصد از آنها برای ترجمه، خلاصه کردن یا نوشتن پیشنویس اولیه استفاده کرده بودند.
به تازگی، یک نظرسنجی از ۳۲۳۴ محقق که ماه نوامبر سال گذشته توسط ناشر دانشگاهی Elsevier منتشر شد، نشان داد که ۵۸ درصد از محققان، از هوش مصنوعی در کار خود استفاده میکنند که نسبت به ۳۷ درصد در سال قبل افزایش یافته است. در مورد نحوه استفاده یا تمایل محققان به استفاده از ابزارهای هوش مصنوعی، ۶۱ درصد گفتند که برای یافتن تحقیقات جدید از آن استفاده میکنند، ۵۱ درصد گفتند برای جمعآوری و خلاصه کردن متون و ۴۱ درصد گفتند که برای تهیه درخواستهای کمک هزینه مالی از آن استفاده میکنند. افراد مورد بررسی عموما در مورد پتانسیل این فناوری برای افزایش کارایی نظر مثبتی داشتد.
هیو پوسینگهام، ریاضیدان و دانشمند حفاظت از محیط زیست در دانشگاه کوئینزلند در بریزبن، استرالیا، از جمله محققانی است که از هوش مصنوعی استفاده نمیکنند. او آگاهانه تلاش کرده است تا از هر نوع genAI اجتناب کند و در عوض در لینکدین متعهد شده است که به «حماقت طبیعی» (Natural stupidity) (واژهای مقابل هوش مصنوعی) تکیه کند.
او میگوید: من هرگز از هیچکدام از آنها استفاده نکردهام. با اینکه هوش مصنوعی در بسیاری از عملکردهای روزمره ادغام شده است، او هرگز هنگام نوشتن ایمیل، روی دکمهای که متن را تولید یا خلاصه میکند، کلیک نکرده است.
او به طور خاص از خطاهایی که در نوشتههای تولید شده توسط هوش مصنوعی مشاهده کرده است، شکایت دارد. هوش مصنوعی گاهی اوقات توهم میزند: اطلاعات نادرست یا گمراهکننده را با قاطعیت ارائه میدهد. او میگوید: من یک پایاننامه کارشناسی ارشد خواندم که در آن فرد مورد استناد ۱۰ سال قبل از انتشار مقاله فوت کرده بود!
چرا دانشگاهها باید در عصر هوش مصنوعی، امتحانات را به طور اساسی بازنگری کنند؟
آدری مورز، شیمیدان دانشگاه مکگیل در مونترال، کانادا، نیز شاهد اشتباهاتی بوده است که هوش مصنوعی در رشته او ایجاد میکند. او شاهد بازنماییهای مختلف تولید شده توسط هوش مصنوعی از مواد شیمیایی بوده است که نادرست هستند. او اولین بار این موضوع را در یک مجله شیمی که مولکولهای «بیمعنی» را به نمایش میگذاشت، متوجه شد، اما این موضوع به اندازهای در ارائهها و سایر مجلات به یک روند عادی تبدیل شده است که او و یکی از همکارانش مقالهای در تفسیر آن نوشتند و از جامعه شیمی خواستند که استفاده از genAI را برای وظایف خاص ممنوع کند.
مورز میگوید: مثل این است که از یک کودک سه ساله بخواهید یک ماده شیمیایی را نقاشی کند. یک مدل هوش مصنوعی هرگز دورههای شیمی را که یک انسان میگذراند، نگذرانده است. او اضافه میکند که حتی وقتی وظیفه نقاشی یک مولکول ساده مانند کافئین به آن داده میشود، ممکن است شکست بخورد.
افراد بدبین میگویند که زمانی که صرف تایید اطلاعات تولید شده توسط هوش مصنوعی میشود اغلب هدف استفاده از این ابزار که کارایی بیشتر است را با شکست مواجه میکند. تانیشا جوزی، دانشمند علوم اجتماعی در دانشگاه باند در روبینا، استرالیا، میگوید که به عنوان «قهرمان هوش مصنوعی» تعیینشده توسط هیئت علمی، قرار است مدلها را ارزیابی کند، بفهمد که در چه زمینههایی خوب هستند و پیشنهاد دهد که هیئت علمی چگونه میتواند از آنها استفاده کند. اما از قضا، او تأکید میکند که بررسی آنها حتی کار بیشتری ایجاد میکند.
او میگوید که ۹۵ درصد مواقع اینکه خودم کار را انجام دهم سرعتم را بیشتر میکند تا اینکه ابزاری برای انجام آن تهیه کنم و سپس مجبور باشم بررسی کنم که آیا آن را درست انجام داده است یا خیر. او همچنین دریافته است که این ابزاری ناکارآمد برای تحقیقات کیفی است.
سایر معایب
یکی دیگر از نگرانیهای عمدهای که محققان به آن اشاره میکنند، تاثیر زیستمحیطی است. مراکز دادهای که سیستمهای genAI را تغذیه میکنند، از انرژی و آب زیادی استفاده میکنند. مطالعهای که در Patterns منتشر شده است، تخمین میزند که در سال ۲۰۲۵، ردپای کربن سیستمهای هوش مصنوعی در سطح جهان میتواند بین ۳۲.۶ میلیون تا ۷۹.۷ میلیون تُن کربن دیاکسید و ردپای آب میتواند ۳۱۲.۵ میلیارد تا ۷۶۴.۶ میلیارد لیتر باشد.
برای روشن شدن موضوع، این مطالعه میگوید که این با ردپای کربن کل شهر نیویورک قابل مقایسه است. پیامدهای بالقوه مضر زیستمحیطی یکی از دلایل متعددی است که کرولی از استفاده از ابزارهای genAI خودداری میکند.
او میگوید: وقتی روی پروژهای در مورد تغییرات اقلیمی کار میکنم، استفاده از این ابزار که اساسا همان کار ابزارهای دیگر را انجام میدهد، اما انرژی بیشتری برای انجام آن مصرف میکند، درست به نظر نمیرسد.
دانشمندان دیگر نیز به نگرانیهای اخلاقی اشاره کردند. خوان روچا، دانشمند پایداری، معتقد است که استفاده از ابزارهای هوش مصنوعی به شرکتهای بزرگ و خصوصی کمک میکند تا الگوریتمهای خود را برای بهتر شدن آموزش دهند و در درازمدت، به طور بالقوه باعث جایگزین شدن کارگران انسانی با هوش مصنوعی شوند. روچا، که در مرکز تابآوری استکهلم در سوئد کار میکند، میگوید: این شما نیستید که از هوش مصنوعی استفاده میکنید بلکه هوش مصنوعی از شما استفاده میکند. ما آزادی عمل میدهیم و در آینده نیروی کار را منسوخ میکنیم و اهمیت کار در دانشگاه را کاهش میدهیم.
میشائلا سوکولوف، روانشناس زبان در موسسه فناوری ماساچوست در کمبریج، نیز نگرانیهایی در مورد نحوه جمعآوری اطلاعات توسط هوش مصنوعی دارد. او میگوید: دلیل اصلی مخالفت من با هوش مصنوعی مولد این است که این هوش مصنوعی بر اساس آثار نویسندگانی آموزش دیده است که رضایت خود را اعلام نکردهاند. او این کار را سرقت ادبی میداند. این فقط دزدیدن آثار نویسندگان و هنرمندان است.
از نظر او، برونسپاری نویسندگی به genAI راهی برای برونسپاری فرصت توسعه تفکر جدید است. او میگوید: من سعی میکنم به دانشجویان آموزش دهم که چگونه تحقیقات خود را به دیگران منتقل کنند، به خصوص به عنوان یک بومشناس تغییرات اقلیمی. شما اینجا در مقطع تحصیلات تکمیلی هستید تا مهارتهایی را کسب کنید و اینجا با من کار میکنید تا آن را از من یاد بگیرید. برای من مهم نیست که هوش مصنوعی مولد میداند چگونه این کار را به خوبی انجام دهد.
مورز در مقاله نظر خود نوشت: این هوش مصنوعی در طراحی مواد شیمیایی خوب نیست، بنابراین بیایید تا زمانی که بهتر نشده از آن استفاده نکنیم. او توضیح میدهد: اگر میخواهید آن را بهتر کنید، اگر میخواهید یک هوش مصنوعی را بگیرید و به او یاد دهید که چگونه مواد شیمیایی را طراحی کند، انجامش دهید و اگر کار کرد، من از آن استفاده خواهم کرد، اما در حال حاضر، واقعا مشکلساز است.
برخی از محققان مایل به استفاده از آنها برای کارهای خاص هستند. مورز در حال حاضر از genAI برای نوشتن توصیهنامهها استفاده میکند و از آن میخواهد که آنها را از نظر دقت بررسی کند. ولکوویچ همچنین میگوید که ماهی یک یا دو بار برای کارهای شخصی، مانند جستجوی نحوه تهیه سیمکارت در یک کشور خارجی، از آن استفاده میکند.
اما سوکولوف شک دارد که هرگز به نقطهای برسد که از genAI استفاده کند، چه از نظر اخلاقی و چه از نظر شخصی. او میگوید: حتی اگر مدلی وجود داشته باشد که در آن روش آموزش کاملا اختیاری باشد، من هنوز فکر میکنم که میزان استفاده مردم از آن برای توانایی تفکر انتقادی بسیار مخرب است. توانایی فکر کردن و نوشتن برای خودتان یک مهارت بسیار مهم و ارزشمند است و من نمیخواهم آن را به هوش مصنوعی مولد واگذار کنم.
بررسی انتقادی
وقتی پوسینگهام متعهد شد که از هوش مصنوعی استفاده نکند مگر اینکه خلاف آن توصیه شود، گفت که بسیاری از همکارانش از او حمایت میکنند. با این حال، برخی منتقدان صریحی هم وجود داشتند. او به یاد میآورد: مردم کم و بیش به روش خودشان میگفتند که تو یک مخالف فناوری هستی و دنیا رو به جلو حرکت میکند.
محققی که از genAI پرهیز میکند، شاید کمی مایه خجالت باشد. سوکولوف میگوید که او با همکارانش بر سر موضعش در مورد genAI درگیر شده است. او با خنده میگوید: من همیشه در حال بحثم. ولکوویچ همچنین پس از انتشار وبلاگ خود در مورد عدم بررسی پایاننامههایی که از genAI استفاده میکنند، احساس قضاوت از سوی همکارانش را داشته است. اگرچه دانشجویان آزمایشگاه او با سیاست او موافق بودند، اما همکارانش آن را مطرح نکردند. او به یاد میآورد که احساس میکرد مردم نمیخواهند در بحث شرکت کنند.
روچا میگوید جلب نظر دیگران، به ویژه دانشجویانش، میتواند دشوار باشد. اما او دانشجویان دکترای خود را به کدنویسی تشویق میکند و آنها را طوری پرورش میدهد که استقلال لازم برای ایجاد ابزارهای هوش مصنوعی خودشان را داشته باشند، تا مهارت و دانش لازم را کسب کنند. به نظرم مهم است که در مورد آن انتقادی برخورد کنیم. بدانید که این ابزارها وجود دارند و در چه مواقعی ممکن است مفید باشند. هوش مصنوعی ممکن است کار او را کارآمدتر کند، اما او ترجیح میدهد برای درک کاری که انجام میدهد وقت بگذارد. او میگوید: من اینجا هستم تا یاد بگیرم چگونه کارها را انجام دهم. فکر نمیکنم برونسپاری آن به یک مدل زبانی بزرگ هدف دکترای من باشد.
۵۸۵۸
