هوش مصنوعی در کنار تمام مزایا و ویژگی‌های مثبتی که دارد و در سال‌های اخیر توانسته ابعاد وسیعی از فناوری‌ها را هوشمند کند، نکات منفی هم دارد و از این رو نگرانی‌هایی را برای بشریت ایجاد کرده است. یکی از این نگرانی‌ها برای فضای دانشگاهی و آموزش عالی ایجاد شده است. دانشمندان با توجه به قابلیت‌های بالایی که فناوری هوش مصنوعی در اختیار دارد، کاربردهای متعددی را برای ربات‌های هوش مصنوعی در نظر می‌گیرند که در بسیاری از مواقع توانسته کمک‌دست انسان باشد و بسیاری از کارها را با سهولت بیشتری انجام دهد اما همین ربات‌ها گاهی دردسرساز شده و آنقدر کاربری آنها پیشرفته می‌شود که برای بشر مشکل‌آفرین می‌شود. نمونه آن، ساخت ربات هوشمند جدیدی است که می‌تواند به خودی خود مقاله‌نویسی دانشجویی انجام دهد که همین امر نگرانی دانشگاهیان و استادان را در پی داشته است.
محققان به‌تازگی که ربات هوش مصنوعی موسوم به ChatGPT را ابداع کرده‌اند که در واکنش به درخواست‌های کاربر متن صوتی هوشمندی را شامل تکالیف درسی و سوالات امتحانی ایجاد می‌کند. پاسخ‌ها بسیار شفاف بوده و تحقیقات خوبی هم روی آن انجام شده و به‌درستی اشاره شده که برخی از دانشگاهیان، این ربات را ناقوس مرگ برای شکل‌های مرسوم ارزیابی آموزشی قلمداد می‌کنند. مقاله‌ای که این ربات می‌نویسد، بسیار شبیه پایان مقاله‌ها به‌عنوان یک تکلیف آموزشی است. یکی از محققان روزنامه‌نگاری در دانشگاه ایالتی آریزونا در «تمپ» در گفت‌وگویی که با روزنامه گاردین داشته، عنوان کرده است که پرسشی را در قالب تکلیف در اختیار ربات ChatGPT قرار داده که اغلب به دانشجویان می‌دهند.
نقش ربات هوش مصنوعی در یادگیری
این ربات در ۳۰ نوامبر به‌عنوان نمونه اولیه راه‌اندازی شد و به دلیل واکنش‌های جزئی و پاسخ‌های ماهرانه‌ای که به‌صورت کلامی با دامنه وسیعی از دانش بیان می‌کرد به‌سرعت مورد توجه قرار گرفت. دقت واقعی و نابرابر آن با دیگر ربات‌ها یکی از مشکلات مهم این ربات شناسایی شد. بعد از راه‌اندازی این ربات، ارزش شرکت OpenAI به ۲۹ میلیارد دلار افزایش پیدا کرد. این ربات از دو شیوه «یادگیری نظارت شده» و «یادگیری تقویتی» استفاده می‌کند که در هر دو شیوه از مربیان انسانی برای بهبود عملکرد این مدل استفاده شده است. در یادگیری نظارت‌شده، برای این مدل مکالماتی در نظر گرفته شده که در آن مربیان نقش هر دو طرف کاربر و هوش مصنوعی را بازی کردند. در مرحله یادگیری تقویتی نیز مربیان ابتدا پاسخ‌هایی را این مدل در مکالمه قبلی ایجاد کرده بود، رتبه‌بندی کردند. از این مدل‌ها در مشارکت با مایکروسافت در زیرساخت‌های ابرکامپیوترهای Azure استفاده شده است. علاوه‌براین، شرکت OpenAI به جمع‌آوری داده از کاربران ChatGPT ادامه می‌دهد که می‌تواند از آن در آموزش‌های بیشتر و تنظیم‌شده استفاده کند. کاربران مجازند به پاسخ‌هایی که از این ربات دریافت می‌کنند، رأی مثبت یا منفی دهند. کاربران همچنین می‌توانند پس از رأی موافق یا مخالف، یک حوزه متنی را با بازخورد بیشتر تکمیل کنند. این ربات پیشتاز ایجاد انقلاب در فناوری هوش مصنوعی است که پرسش‌های فلسفی پیرامون محدودیت‌های آن مطرح شده و اجرای برنامه‌های کاربردی بالقوه‌ای از جمع‌بندی اسناد قانونی گرفته تا کمک به برنامه‌نویسان کامپیوتری را امکان‌پذیر کرده است.
ربات یک‌ماهه ChatGPT
به گزارش nature، ربات ChatGPT زاییده فکر مهندسان و دانشمندان آزمایشگاه تحقیقاتی آمریکایی هوش مصنوعی OpenAI واقع در سن‌فرانسیسکو، کالیفرنیاست. در سال ۲۰۲۰، این شرکت از نوع GPT-3 هوش مصنوعی به‌عنوان یک مدل بزرگ زبانی رونمایی کرد که با جست‌وجو در میان میلیاردها کلمه داده‌های آموزشی و یادگیری چگونگی ارتباط کلمات و عبارات با یکدیگر، متنی را ایجاد می‌کند. ربات ChatGPT که در نوامبر ۲۰۲۲ راه‌اندازی شد، از خانواده GPT-3 است که برای ایجاد تحول در یادگیری به دو شکل نظارتی و تقویتی عمل می‌کند. درحالی‌که عملکرد اصلی یک ربات سخنگو، تقلید از نوع صحبت کردن انسان است، ربات ChatGPT در کنار این ویژگی، یک ربات همه‌کاره شناخته می‌شود. به‌عنوان مثال، این ربات توانایی نوشتن و رفع اشکال از برنامه‌های کامپیوتری، ساخت موسیقی، نوشتن تله‌نمایش، افسانه و حتی مقالات دانشجویی را دارد و همچنین بسته به نوع آزمون، در سطحی بالاتر از میانگین انسانی به سوالات پاسخ می‌دهد. قادر به شعر گفتن و حذف کلی فضای مکالمه (چت) است. می‌تواند بازی «دوز» انجام دهد و عملکردی شبیه ATM داشته باشد. داده‌های آموزشی این ربات شامل اطلاعاتی پیرامون اینترنت و زبان‌های برنامه‌نویسی است. ربات ChatGPT در مقایسه با پردازشگر آن یعنی InstructGPT، تلاش می‌کند واکنش‌های مضر و فریبنده را کاهش دهد.
ChatGPT می‌تواند معادلات را تغییر دهد؟
ربات ChatGPT برخلاف بیشتر ربات‌های سخنگو، اعلان‌های قبلی را که در همان مکالمه به آن داده شده بود، به یاد می‌آورد. روزنامه‌نگاران پیشنهاد داده‌اند این ویژگی باعث می‌شود از این ربات به‌عنوان یک درمانگر شخصی استفاده شود. اما این ربات محدودیت‌های مختلفی هم دارد. شرکت سازنده این ربات اذعان کرده که ChatGPT گاهی خیلی قابل‌قبول می‌نویسد اما معمولا پاسخ‌های آن نادرست یا نامفهوم است. این ربات همچنین دانش وقایعی را که بعد از سال ۲۰۲۱ رخ داده، محدود کرده است و از دسامبر ۲۰۲۲ مجاز به ابراز عقاید سیاسی و مشارکت در فعالیت‌های سیاسی نیست.
درحالی‌که GPT-3 شباهت زیادی به کامپیوتر دارد، می‌تواند به‌عنوان یک همکار عمل کند که کاربران می‌توانند از ایده‌های آن استفاده کنند. بسیاری از کارشناسان بر این باورند از آنجایی که برخی دانشجویان سال‌هاست از شیوه‌های مختلفی برای نوشتن مقاله استفاده می‌کنند و بعضا نوشتن مقاله‌های خود را به دیگر متخصصان واگذار می‌کنند، با این عقیده مخالفند که ربات ChatGPT می‌تواند معادلات را تغییر دهد. آنها معتقدند که این ربات، هنگام مقاله‌نویسی تمام اطلاعات و داده‌ها را به‌صورت شسته‌و‌رفته در بسته‌ای رایگان ارائه می‌دهد. همچنین این ربات در مقاله‌هایی که تولید می‌کند نقل قول‌هایی را می‌گنجاند که غالبا بیان نشده و جنبه واقعی نداشته‌اند. به عبارتی در مقاله‌نویسی‌هایی که به این شکل انجام می‌شود داده‌ها و اطلاعات نادرست و ارجاعات نامربوط، راحت‌تر از ماشین‌های مقاله‌نویسی منتشر می‌شوند. به‌رغم اینکه در این ربات از هوش مصنوعی استفاده شده، اما درواقع، زمانی که پای فکر کردن به روش انسان به میان می‌آید این سیستم‌های هوشمند به‌درستی عمل نمی‌کنند و درصد خطا بالا می‌رود.
فراتر از مقاله‌نویسی
حتی اگر با ورود این ربات‌های هوش مصنوعی به بازار، این پایان مقاله‌نویسی به‌عنوان ابزاری برای ارزیابی دانشجویان در دانشگاه‌ها باشد، می‌توان آن را از منظر دیگری هم نگاه کرد. یک متخصص کامپیوتر در دانشگاه «پرینستون» معتقد است که مقاله‌ها ابزار خوبی برای آزمودن دانش دانشجویان و مهارت‌های نوشتاری آنها محسوب نمی‌شوند. ربات ChatGPT قرار است ترکیب این دو را در قالب نوعی تکلیف کتبی دشوارتر کند. اما دانشگاهیان قادرند با بررسی دوباره آزمون‌های کتبی برای اولویت دادن به تفکر انتقادی یا استدلالی پاسخ دهند که این ربات هنوز قابلیت انجام این کار را پیدا نکرده و به این درجه نرسیده است. استفاده از این ربات ممکن است درنهایت مشوقی برای دانشجویان باشد تا بیشتر فکر کنند نه اینکه سعی کنند به پرسش‌های مقاله پاسخ دهند. ضرورت این امر به این موضوع بستگی دارد که چند نفر از این ربات استفاده می‌کنند. در یک هفته نخست راه‌اندازی این ربات، بیش از یک میلیون نفر از آن استفاده کردند. اما نسخه اولیه‌ای که دانشمندان به‌عنوان نسخه تحقیقاتی ارائه کرده‌اند، هنوز روانه بازار نشده است و قرار نیست به‌طور رایگان هم عرضه شود.
درست است که برخی دانشمندان و کارشناسان از قابلیت‌های این ربات هوش مصنوعی شگفت‌زده شده‌اند اما نسبت به تاثیر بالقوه‌ای که می‌تواند روی دانش و توانمندی بشر داشته باشد، نگرانی‌هایی را هم در آنها ایجاد کرده است. دانشجویان نه‌تنها نوشته‌های خود، بلکه تفکر خود را نیز برون‌سپاری خواهند کرد و این می‌تواند خطری باشد که دانش آنها را مورد حمله قرار خواهد داد.
نگرانی‌هایی که باید جدی گرفته شوند
سردبیران، محققان و ناشران مجلات در حال بحث پیرامون جایگاه چنین ابزارهای هوش مصنوعی در مقالات منتشر شده هستند و اینکه آیا می‌توان لقب نویسنده را به این ربات‌های هوش مصنوعی اطلاق کرد یا نه. ناشران درحال ایجاد سیاست‌هایی برای چت‌بات‌ها هستند که حدود یک ماه مانده به سال جدید میلادی از سوی شرکت سازنده عرضه شد. با توجه به اینکه این ربات با تقلید از الگوهای آماری زبان در پایگاه داده عظیمی از متن جمع‌آوری شده از اینترنت، جملاتی را تولید می‌کند، نگرانی‌هایی را برای دانشگاهیان و استادان نسبت به آینده مقاله‌نویسی و تولیدات پژوهشی دانشگاه‌ها ایجاد کرده است. البته بسیاری از ناشران بر این باورند که این ربات هوش مصنوعی نمی‌تواند معیارهای یک نویسنده مقاله را به‌درستی ایفا کند چراکه قادر نیست مسئولیت مفهوم و یکپارچگی مقالات علمی را برعهده بگیرد. به عبارتی، این ربات تنها جملاتی در قالب مقاله و پیرامون موضوع مطرح‌شده تولید می‌کند که اغلب از پیوستگی برخوردار نیست و نمی‌توان عنوان یک مقاله به اصطلاح کاردرست را روی آن گذاشت.
نویسندگان مصنوعی
ربات ChatGPT یکی از ۱۲ نویسنده‌ای است که در نسخه پیش چاپ یک مقاله درباره استفاده از این ابزار برای آموزش پزشکی مخزن medRxiv در دسامبر سال گذشته مطرح شده بود. اینجاست که باید نقش رسمی نویسنده یک اثر و مقاله علمی را از ایده کلی یک نویسنده مقاله تشخیص داد. نویسندگان معمولا مسئولیت حقوقی آنچه را می‌نویسند، برعهده می‌گیرند. بنابراین تنها می‌توان نام اشخاص را به‌عنوان نام نویسنده یک مقاله علمی ثبت کرد. البته در این مورد تخلف‌هایی هم صورت گرفته که نمونه آن در medRxiv اتفاق افتاد که نام افراد تخیلی در فهرست نویسندگان درج شده بود. مدتی پیش هم مدیر اجرایی یک شرکت اکتشافات دارویی مبتنی‌بر هوش مصنوعی در هنگ‌کنگ، ربات ChatGPT را به‌عنوان یکی از نویسندگان یکی از مقالات در مجله Oncoscience معرفی کرد. این شرکت بیش از ۸۰ مقاله تولیدشده توسط ابزارهای مولد هوش مصنوعی منتشر کرده است. محققان بر این باورند که این ربات استانداردهای نویسندگی را رعایت نمی‌کند و همین امر مسئولیت مقالات نوشته‌شده را از این ربات هوش مصنوعی خارج می‌کند.
ChatGPT شکست خورد؟
به‌رغم تمام حرف و حدیث‌هایی که پیرامون مقاله‌نویسی این ربات هوش مصنوعی مطرح شده، یکی از دانشجویان رشته علوم کامپیوتر دانشگاه «پرینستون» موفق به ساخت اپلیکیشنی موسوم به GPTZero شده که می‌تواند مقالات نوشته‌شده توسط این ربات هوش مصنوعی را از مقالاتی که یک انسان نوشته تشخیص دهد. ساخت این اپلیکیشن بسیاری از نگرانی‌های دانشگاهیان و استادان را برای جلوگیری از تقلب برطرف می‌کند و به‌راحتی با استفاده از این نرم‌افزار قادرند مقالات تقلب‌شده را شناسایی کنند. درواقع این اپلیکیشین به‌راحتی می‌تواند سرقت ادبی این ربات هوش مصنوعی را تشخیص دهد. آموزش استفاده از این اپلیکیشن با مجموعه داده‌های مشابه ربات ChatGPT صورت می‌گیرد و می‌تواند یک متن یا مقاله نوشته شده را از نظر پیچیدگی‌های تطبیقی و قیاسی مورد ارزیابی قرار دهد. درواقع اگر متن مقاله در ارزیابی‌هایی که این نرم‌افزار انجام می‌دهد برای ربات نرم‌افزاری GPTZero آشنا باشد با درصد بسیار بالایی توسط ربات هوش مصنوعی نوشته شده است.
همچنین این اپلیکیشن با شیوه دیگری موسوم به burstiness هم مقاله را بررسی می‌کند. از ویژگی‌هایی که این شیوه ارزیابی می‌کند، تنوع در طول جمله و عوامل متعدد دیگر است. انسان‌ها معمولا در نوشتار از جملاتی با تنوع بالا استفاده می‌کنند و تلاش می‌کنند کلمات و عبارت‌های مختلفی استفاده کنند اما این تنوع در مقالاتی که توسط ربات هوش مصنوعی نوشته می‌شود بسیار پایین است و به نوعی، متن از یکنواختی برخوردار است. البته این دلیل بر آن نیست که این اپلیکیشن بی‌خطاست بلکه ممکن است در برخی موارد هم به‌درستی نتواند مقاله نوشته‌شده توسط ربات را شناسایی کند.
مثبت و منفی ربات‌های هوش مصنوعی
با رونمایی ربات ChatGPT در دسامبر ۲۰۲۲، دیدگاه‌های مثبتی نسبت به آن مطرح شد. نیویورک‌تایمز آن را بهترین چت‌بات هوش مصنوعی دنیا نامید که به‌طور عمومی عرضه شده است. گاردین هم در واکنش خود به این موضوع اشاره کرد که این ربات می‌تواند متن یا مقاله‌ای با جزئیات و مشابه نوشتار انسان تولید کند. یکی از کارشناسان عرصه فناوری نیز با آزمودن این ربات برای تکلیف یکی از دانشجویان خود نشان داد که مقاله نوشته‌شده توسط ربات با مقاله‌ای که دانشجوی او نوشته برابری می‌کند و آنجا بود که نگرانی از وضعیت آینده دانشگاه‌ها برای اولین بار مطرح شد. برخی محققان نیز عملکرد این ربات را تغییر در فرآیند فکری و خلاقیت بشر عنوان کردند. به عبارتی، ظهور ربات ChatGPT، نمایش اقتدار هوش مصنوعی است و نشان می‌دهد که دانشمندان تا چه اندازه توانسته‌اند در تولید فناوری هوش مصنوعی پیشرفت کنند و محققان بر این باورند که این ربات آنقدر هوشمند است که به‌رغم تمام ایراداتی که به آن وارد است، می‌تواند همچنان مفید واقع شود. ایلان ماسک که یکی از بنیانگذاران شرکت OpenAI، سازنده این ربات هوش مصنوعی است، اشاره کرده است که ChatGPT یک ربات خوب و ترسناک است اما خیلی با ظهور هوش مصنوعی قدرتمند و خطرناک فاصله نداریم. دسامبر ۲۰۲۲ بود که گوگل نسبت به قدرت این ربات هوش مصنوعی هشدار داد و عنوان کرد که حتی می‌تواند تجارت موتورهای جست‌وجو را مختل کند. با توجه به ویژگی‌های این ربات در ژانویه ۲۰۲۳، استفاده از آن در کنفرانس بین‌المللی یادگیری ماشینی برای تولید هرگونه متنی ممنوع اعلام شد. برخی نیز معتقدند ظهور این ربات، آینده شغلی کارگران حوزه‌های دانش را به خطر می‌اندازد. این ربات حتی قادر است بدافزارهایی را منتشر کند که امنیت سایبری را به خطر بیندازد و حتی اختلالاتی را در نظام آموزش عالی ایجاد کند.
منبع:فرهیختگان
