کد خبر: 47114
تاریخ انتشار: دوشنبه, 14 فروردين 1402 - 10:23

داخلی

»

سخن هفته

بحثی در استفاده صادقانه و اخلاقی از ابزارهای هوش مصنوعی:

ChatGPT و استفاده درست در فضای آموزشی

منبع : لیزنا
علی شیری
ChatGPT و استفاده درست در فضای آموزشی

سال نو بر شما فرخنده و مبارک باشد. صد سال به سالهای خوب. برای همه شما آرزوی تندرستی و شادمانی می کنم و برایتان سالی پر برکت و به دور از مشکلات تورمی آرزو دارم. سخن هفته سال نو را با مقاله ای از دکتر علی شیری  استاد دانشگاه آلبرتا در ادمونتون کانادا آغاز می‌کنیم .

موضوع هوش مصنوعی و تاثیر آن بر رشته ما و شغل ما را در اسفندماه و در همین ستون طرح کردیم. موضوع بسیار مهم و تاثیر گذاری است . این موضوع در مقاله دکتر شیری از زاویه‌ای دیگر مورد بررسی قرار گرفته بود که حیفم آمد از آن به سادگی بگذریم، و فکر کردم باید حتما دغدغه‌های ایجاد شده توسط این ابزار طرح و شناخته شوند. و از همین زاویه و دغدغه‌های طرح شده نیز می‌توانید ببینید، کسانی که مشتریان اصلی ما هستند، اهل علم و اهل فرهنگ، با آمدن چنین ابزارهایی، آیا باز هم به کار ما نیاز پیدا می‌کنند؟ بیائید واقع بین باشیم و به این مساله جدی‌تر فکر کنیم. من هم خوب می‌دانم، معیشت، چنان بالفعل دامان همه ما را گرفته، که اندکی جلوتر را حاضر نیستیم نگاه کنیم. حتما فکر می‌کنیم، اول بگذار ببینیم می‌توانیم نان خالی سر سفره خانواده بگذاریم، ‌بعد به مسایل دیگر هم فکر می‌کنیم. شاید این درست باشد و واجب و لازم است،‌ لیکن آینده شغلی همه کتابداران نیز از مسایلی است که باید به آن اندیشیده شود. چنانکه دکتر شیری تحقیق کرده، کتابداران کشورهای ثروتمند، بررسیهای خود را شروع کرده اند. ما کجای کار هستیم و آیا باز هم صبر می کنیم تا دیگران راه حل پیدا کنند و از آنها تقلید کنیم؟ راه حلهای هر کشوری و هرجامعه‌ای، پاسخگوی نیازهای همان جامعه است، کتابداران ایرانی چه خواهند کرد؟

سیدابراهیم عمرانی

سردبیر

 

لیزنا؛ علی شیری، استاد دانشگاه آلبرتا در ادمونتون کانادا: ChatGPT  چیست؟

ChatGPT  که به عنوان یک عامل مکالمه هوشمند توسط شرکت OpenAI پدید آمده، و از زمان انتشار عمومی خود در 30 نوامبر 2022 به سرعت محبوبیت پیدا کرده است. به عنوان یک "سیستم پردازش و پاسخگویی به سؤالات با زبان طبیعی قدرتمند"، یک رابط- کاربر متنی با شیوه استفاده آسان در دسترس افراد می‌گذارد تا  به سوالات آنها ساده و سریع پاسخ دهد، می توانید از آن سؤال بپرسید و انواع مختلف متن را درخواست کنید تا تولید کند. قدرت ChatGPT در "مدل زبانی بزرگ"[1]، پیچیده و طبیعی آن و مجموعه داده های زیربنایی عظیم آن نهفته است که به آن اجازه می دهد تا از جمله یادگیری کند و کلمه بعدی در یک جمله را به خوبی پیش بینی کند. داده‌های زیربنایی ChatGPT از تعداد زیادی منبع، از جمله اینترنت، ویکی‌پدیا، گوگل‌بوک Google-Book، آموزش‌های کدنویسی، و داده‌های Common Crawl، یک سیستم خزشگر‌های وبی در مقیاس بزرگ از منابعی که به‌طور رایگان آرشیوها و مجموعه داده‌های خود را در اختیار عموم قرار می‌دهند، استخراج می‌شود.

ChatGPT  چه کاری می تواند انجام دهد؟

یکی از ویژگی های قابل توجه و قدرتمند ChatGPT توانایی آن در تولید متنی است که تشخیص آن از متن تولید شده توسط انسان دشوار است. این ویژگی این پتانسیل را دارد که امکانات متعددی برای تولید خودکار متن، خلاصه‌نویسی، پاراگراف نویسی، مقاله نویسی، خطابه‌نویسی و سایر انواع نوشتار بدون دخالت انسان فراهم کند. نمونه‌هایی از کارهایی که ChatGPT می‌تواند انجام دهد در زیر فهرست شده‌اند تا نمای کلی از تنوع و تطبیق‌پذیری عملکرد آن در تولید متن با استفاده از دستورهای ساده را متوجه شوید:

- تعاریف، توضیحات، ایده ها و چیزهای مختلف دیگر ارائه می‌دهد.

- یک مقاله بر اساس یک موضوع با مجموعه ای مشخص از کلمات، از جمله نقل قول ها و ارجاعات، و شیوه املایی (مثلا انگلیسی بریتانیایی یا آمریکایی) می‌نویسد.

- مقدمه، چکیده، داستان و شعر می نویسد.

- شرح و طرح کلی یک درس را برای موضوعات خاص تهیه می کند.

- تکلیف‌هایی برای درس تهیه می‌کند، دستورالعمل های خاصی را بر اساس سرفصلها و بخشها و قسمتهای داده شده ارائه می‌کند.

- تعاریف، توضیحات، ایده ها و چیزهای مختلف دیگر ارائه می دهد.

- یک مقاله بر اساس یک موضوع با مجموعه ای مشخص از کلمات، از جمله نقل قول ها و ارجاعات، و شیوه املایی (مثلا انگلیسی بریتانیایی یا آمریکایی) می‌نویسد.

- پیشنهادهایی برای بازخورد در مورد نوشته‌ها و تکالیف دانش‌آموز ارائه می‌دهد.

- ارائه بازخورد در مورد یک متن نوشته شده و راه هایی را که می توان آن را بهبود بخشید، در اختیار می‌گذارد.

- کدهای کامپیوتری بر اساس مجموعه ای از دستورالعمل‌ها تولید می‌کند (به عنوان مثال کد پایتون، STATA:  کد برنامه کاربردی نرم افزار آماری علوم داده).

- برای اهداف مختلف ایمیل می نویسد.

- خلاصه بازی های ورزشی و نظرات را با اعلانات مختلف برای دفاع از یک موضع یا استدلال خاص در مورد یک موضوع می نویسد.

- مفاهیم را با رپ[2] توضیح می‌دهد.

اینها فقط چند نمونه کلیدی از مصنوعات متنی هستند که ChatGPT می تواند با دریافت سؤال های سریع و  ساده ایجاد کند. البته، ChatGPT  از نظر آنچه می تواند ایجاد کند محدودیت هایی دارد. خلاقیت ChatGPT در نوشتن تا حد زیادی به این بستگی دارد که چگونه می توان در پرسیدن سوال و ایجاد مساله خلاقیت داشت. یکی از محدودیت های شناخته شده ChatGPT، تواناییهای ورودی تک وجهی آن است (Susnjak, 2022). از سویی، ChatGPT  تصاویر، نمودارها یا ویدیوها را قبول نمی کند و پاسخی برای آنها نمی دهد. این محدودیت می‌تواند بطور خلاقانه در طراحی روش های ارزیابی جایگزین و روش هایی که از مصنوعات چند رسانه ای استفاده می کنند، استفاده شود. علاوه بر این، ChatGPT  به سؤالات سیاسی یا پزشکی پاسخ نمی دهد و از پاسخ دادن به نظرات و سؤالات مجادله برانگیز اجتناب می کند (شاه، 2022).

نگرانی اصلی در مورد ChatGPT:

 معرفی ChatGPT مسائل و نگرانی های زیادی در مورد صداقت دانشگاهی و در کل صداقت تحصیلی برای مؤسسات آموزشی و دانشگاهی و مدارس ایجاد کرده است. بسیاری از دانشگاه‌ها، مؤسسات آموزشی و محققان در حال بازاندیشی و بازنگری این موضوع هستند که چگونه ارزیابی‌ها، آزمون‌ها و امتحانات را می‌توان بدون سرقت علمی انجام داد؟ چون  ChatGPT  می‌تواند به راحتی در تولید متن برای انواع تکالیف، مقاله‌ها و پروژه‌ها استفاده شود. در مساله بی‌صداقتی تحصیلی که با وجود  ChatGPT امکان آن بسیار زیاد شده،  برخی نگرانی‌های جدی مربوط به روش‌هایی است که از ChapGPT  می‌توان برای نقض صداقت دانشگاهی، تحقیقاتی و علمی استفاده کرد، مانند نوشتن مقاله، پروژه‌های تحقیقی-درسی، و مقالات مجلات علمی. علاوه بر این، تعدادی از دانشگاهیان درباره تأثیر منفی احتمالی ابزارهای هوش مصنوعی مانند ChatGPT بر تفکر انتقادی، تجربیات یادگیری، یادگیری روشهای پژوهش و خلاقیت دانشجویان ابراز نگرانی کرده اند. یکی دیگر از زمینه‌های نگرانی برای مؤسسات آموزش عالی، روش‌هایی است که می تواند با استفاده از ابزارهای هوش مصنوعی مانند ChatGPT ممکن است روی فرآیندهای درخواستهای تحصیلی دانشجویان  و پذیرش آنها تأثیر بگذارند و پیامدهایی داشته باشند. به طور خاص، چگونه از درستی و سلامت مدارک متقاضی پذیرش مانند بیان هدف یا مقاله‌ها و پایان نامه دوره های کارشناسی و کارشناسی ارشد اطمینان حاصل کنیم؟

اخیر مطالعه‌ای بر روی 50 چکیده از 5 مجله با ضریب تاثیر بالا، که در آن از ChatGPT خواسته شد که چکیده های تحقیقاتی، بر اساس عناوین مقاله ها و مجلات ایجاد کند، انجام شد. این مطالعه نشان داد که ChatGPT می‌تواند چکیده‌های علمی قابل باوری را با داده های تولید شده بنویسد. نویسندگان توصیه می‌کنند که "در ارزیابی (داوری) چکیده مقاله‌ها برای مجلات و کنفرانس‌های پزشکی، باید خط‌مشی و عملکرد را برای حفظ استانداردهای علمی دقیق بازنگری کند؛ آنها پیشنهاد می‌کنند که ابزارهایی برای کشف و آشکار کردن  خروجی هوش مصنوعی در فرآیند ویرایش و افشای دقیق آن در صورت استفاده از این فناوری‌ها باید استفاده شود"(گائو و همکاران، 2022). نویسندگان همچنین خاطرنشان می کنند که مرزهای قابل قبول برای استفاده از مقالات علمی تولید شده توسط هوش مصنوعی هنوز مشخص نشده است. یک مثال بسیارخوب و آزمایش شده و تجربه شده از نگرانی‌های رو به رشد پیرامون استفاده از ChatGPT مربوط به آزمون‌هایی است که توسط اساتید دو دانشگاه در ایالات متحده از ChatGPT گرفته شده است. آزمونهای گرفته شده نشان داد که این ابزار می‌تواند امتحانات حقوق را در 4 برنامه درسی حقوق و یک آزمون برنامه درسی تجارت، با موفقیت پشت سر بگذارد و قبول شود.

این سوال که آیا ChatGPT باید در مدارس و دانشگاه ها مجاز باشد یا نه، در مرکز بسیاری از بحث ها در رسانه ها، مدارس و موسسات آموزش عالی قرار دارد. دیدگاه‌های متفاوت و حتی متناقضی وجود دارد که آیا باید از ChatGPT  در آموزش و یادگیری خود استفاده کنیم یا نه. برخی از موسسات و مربیان استدلال می کنند که ChatGPT  باید در مدارس و دانشگاه ها ممنوع شود. به عنوان مثال، وزارت  آموزش و پرورش نیویورک اعلام کرد که ChatGPT را در تمام شبکه ها و دستگاه های خود در مدارس دولتی ممنوع کرده است (Yang, 2023) . آخرین دستور العمل و سیاست صداقت علمی - دانشگاهی دانشگاه سیدنی به طور خاص بیان می‌کند که "تولید محتوا با استفاده از هوش مصنوعی" نوعی تقلب محسوب می‌شود (کسیدی، 2023). در بریتانیا، مدرسان تشویق شده‌اند با توجه به اینکه برخی از دانش‌آموزان در حال حاضر از ابزارهای هوش مصنوعی استفاده می‌کنند که قادر به ایجاد مقاله‌های با کیفیت بالا است، روش‌های ارزیابی دانشجویان را در دوره‌های خود بازنگری کنند،  (Weale, 2023).

در مقابل، برخی از دانشگاه‌های کانادا، مربیان و مدرسان را تشویق می‌کنند تا با دانش‌آموزان تعامل داشته باشند و گفتگوی شفافی درباره ابزار و محدودیت‌های آن و همچنین نحوه جلوگیری از سرقت علمی و نقض صداقت علمی و تحصیلی هنگام استفاده از ابزارهای مجهز به هوش مصنوعی داشته باشند. کارشناس سرقت علمی و صداقت علمی-دانشگاهی سارا الین ایتون استدلال می کند که به جای جلوگیری از ابزارهای مجهز به هوش مصنوعی مانند ChatGPT، ما باید به طور انتقادی نحوه انجام آزمونها، ‌امتحانات و ارزیابی ها را بررسی و بازنگری کنیم (فریسن، 2023). این رویکرد مستلزم گفتگوی باز با دانش آموزان در مورد یادگیری آنها است و اینکه چگونه این ابزارها ممکن است به فرصت ها و تجربیات یادگیری آنها کمک کند، یا در آموزش و یادگیری آنها اختلال ایجاد کند. روش‌هایی مانند آزمون‌های خانگی، تکالیف نوشتاری خارج از کلاس، و آزمون‌های آنلاین در حال ارزیابی مجدد هستند و با آزمون‌ها، امتحانات و تکالیف غیر متنی، مبتنی بر مهارت و در برخی موارد چندوجهی جایگزین می‌شوند. نمونه‌هایی از روش‌هایی که تکالیف می‌توانند بدون سرقت علمی از طریق  ChatGPT انجام شوند، شامل ایجاد ارائه‌های ویدیویی، پادکست‌ها، پوسترها و تولید کارها و مصنوعات مهارتی و تحقیقاتی در کلاس است.

استفاده از ChatGPT همچنین پیامدهای بسیاری برای نوشتن مقاله های علمی و انتشار آنها و ارتباطات علمی دارد. ناشران مجلات علمی در حال حاضر توجه خود را بر انجام اقدامات مشخص و تدوین دستورالعمل‌ها و خط مشی‌های نویسنده متمرکز کرده‌اند تا اطمینان حاصل کنند که نسخه‌های اولیه مقاله‌ها که برای انتشار به ناشر ارسال شده به طور شفاف وضعیت تألیف یا هم‌نویسندگی مقاله‌های خود را بیان ‌کنند. به عنوان مثال، مجله Nature اصولی را تدوین کرده و به صراحت به نادرستی استفاده از ChatGPT اشاره می کند: "مدل های زبان بزرگ (LLM)، مانند ChatGPT، در حال حاضر شاخصها و معیارهای پذیرش ما را برآورده نمی کنند . همچنین تأکید می‌کند که نویسندگان باید به صراحت نحوه استفاده از ابزار را در بخش روش‌شناسی خود بیان کنند (Nature, Editorials, 2023).

بازاندیشی درباره استراتژی ها و رویکردهای ارزیابی

در حالی که این سوال که آیا ChatGPT باید توسط دانشجویان و محققان استفاده شود یا خیر، موضوعی نوظهور و بحثی داغ است، در حال حاضر تلاش‌هایی از سوی موسسات دانشگاهی و آموزشی در حال انجام است تا به طور فعال شیوه‌های توصیه‌شده برای رویکردها و استراتژی‌های آزمون و ارزیابی جایگزین و سیاست صداقت علمی، تحصیلی و دانشگاهی را (برای جلوگیری از سرقت علمی و حفظ کیفیت تحصیلی) تدوین کنند. هدف این تلاش‌ها تضمین صداقت تحصیلی از طریق بررسی انتقادی روش‌هایی است که ارزیابیها و آزمونها ببه آن طریق انجام می‌شود تا از اتکای شدید دانشجویان به ابزارهای هوش مصنوعی مانند ChatGPT جلوگیری شود. تعدادی از دانشگاه‌های استرالیا در حال بازاندیشی هستند که چگونه می‌توانند امتحانات و سایر ارزیابی‌ها و آزمونها را با استفاده از  قلم و کاغذ انجام دهند (کسیدی، 2023). رویکردهای مشابهی توسط برخی از دانشگاه های انگلستان اتخاذ شده است. به عنوان مثال، یک دپارتمان علوم کامپیوتر در بریتانیا گزینه تکلیف مبتنی بر مقاله را حذف می کند و صرفاً ارزیابی را بر اساس روش های ارزیابی مهارت محور قرار می دهد.

روش‌های دیگر برای اطمینان از صداقت تحصیلی می تواند شامل نرم‌افزارهای کاوشگر برای نظارت بر صفحه نمایش دانش‌آموزان و جلوگیری از دسترسی و استفاده از ابزارها یا منابع غیرمجاز در طول امتحان باشد. مثال‌های خاص می تواند مرورگرهای ایمن و سایر ابزارهای نظارتی باشد که از دسترسی دانش‌آموزان به وب‌سایت‌ها، منابع یا برنامه‌های کاربردی بیرونی، در طول فرآیند امتحان جلوگیری می‌کند. برخی از محققان گنجاندن تصاویر در سؤالات امتحانی را توصیه کرده اند و دانش آموزان را ملزم به نشان دادن دانش و یادگیری خود از طریق امتحانات شفاهی، و حضوری کرده اند (Susnjak, 2022). علاوه بر این، توصیه می‌شود قبل از امتحانات و آزمون‌ها دستورالعمل‌های خاصی به دانش‌آموزان داده شود تا آنها را تشویق به اخلاقی بودن و صداقت و استفاده نکردن از هرگونه ابزار مجهز به هوش مصنوعی مانند ChatGPT کند.

آیا برنامه هایی برای شناسایی متون ایجاد شده توسط ChatGPT وجود دارد؟

تعدادی برنامه کاربردی مانند Grammarly، Turnitin و Copyscape وجود دارند که می توانند شباهت های متن را تشخیص دهند. با این حال، این ابزارها دارای محدودیت‌هایی هستند زیرا به پایگاه‌های داده متنی زیربنایی خود متکی هستند که از نظر پوشش محدودیت‌هایی دارند. این بخش از تحقیق و توسعه، در حال ظهور و تکامل است. یکی از آخرین پیشرفت‌های مربوط به ChatGPT، برنامه‌ای به نام Chatzero (انسانها شایسته حقیقت هستند) است که توسط ادوارد تیان، دانشجوی کانادایی دانشجوی علوم کامپیوتر دانشگاه پرینستون تدوین شده است که پیچیدگی متن ورودی را اندازه‌گیری می‌کند تا تشخیص دهد آیا متن موجود توسط هوش مصنوعی تولید شده یا انسان و میزان سرقت علمی را مشخص می‌کند. در حالی که این برنامه در مراحل اولیه رشد و بلوغ خود است، با توجه به چند آزمایش اولیه که من بر روی متون تولید شده توسط ChatGPTانجام دادم، باید بگویم این  برنامه (Chatzero)  از هم اکنون امیدوار کننده به نظر می‌رسد. شکی نیست که بحث در مورد اینکه آیا باید به دانش آموزان اجازه دهیم از ابزارهای مجهز به هوش مصنوعی مانند ChatGPT در دانشگاه استفاده کنند یا نه، برای سال ها ادامه خواهد داشت. استادان و محققان علوم اطلاعات، صاحب دانش و فرصتی برای مشارکت انتقادی و پیشگیرانه در راه‌ها و روشهایی هستند که از طریق آن می تواند سواد دیجیتال و سواد داده و تحقیق رفتارهای اطلاع‌یابی و بازیابی اطلاعات گسترش یافته و استفاده مسئولانه از ابزارهای هوش مصنوعی مانند ChatGBT  را تبیین کنند.

 

شیری، علی. « بحثی در استفاده صادقانه و اخلاقی از ابزارهای هوش مصنوعی: ChatGPT   و استفاده درست در فضای آموزشی ». سخن هفته لیزنا، شماره 636،  14 فروردین 1402.

 

-------------------------------------------------------------------------------------------------------------

References 

Cassidy, C. (2023, January 10). Australian universities to return to ‘pen and paper’ exams after students caught using AI to write essays. The Guardianhttps://www.theguardian.com/australia-news/2023/jan/10/universities-to-return-to-pen-and-paper-exams-after-students-caught-using-ai-to-write-essays 

Friesen, J. (2023, January 30). ChatGPT prompting some professors to rethink how they grade students. The Globe and Mailhttps://www.theglobeandmail.com/canada/article-chatgpt-ai-post-secondary-students/ 

Gao, C. A., Howard, F. M., Markov, N. S., Dyer, E. C., Ramesh, S., Luo, Y., & Pearson, A. T. (2022). Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers. bioRxiv, 2022-12.

Kelly, S. M. (2023, January 26). ChatGPT passes exams from law and business schools. CNN Business 

https://www.cnn.com/2023/01/26/tech/chatgpt-passes-exams/index.html

Nature. Editorials. Volume 613, January 26, 2023.

Shah, C. (2022, December 20). The rise of AI chat agents and the discourse with dilettantes. Information Matters, Vol. 2, Issue 12. https://informationmatters.org/2022/12/the-rise-of-ai-chat-agents-and-the-discourse-with-dilettantes/ 

Susnjak, T. (2022). ChatGPT: The End of Online Exam Integrity? arXiv preprint arXiv:2212.09292.

Weale , S. (2023, January 13). Lecturers urged to review assessments in UK amid concerns over new AI tool. The Guardianhttps://www.theguardian.com/technology/2023/jan/13/end-of-the-essay-uk-lecturers-assessments-chatgpt-concerns-ai 

Yang, M. (2023, January 6). New York City schools ban AI chatbot that writes essays and answers prompts. The Guardianhttps://www.theguardian.com/us-news/2023/jan/06/new-york-city-schools-ban-ai-chatbot-chatgp

---------------------------------------------------------

[1] . Large Language Model (LLM)

[2] . RESTful Application Programming

برچسب ها :