تقنية

يخدع ChatGPT العلماء بكتابة ملخصات أوراق بحثية دقيقة


نموذج الذكاء الاصطناعي ChatGPT جيد جدًا لدرجة أنه حتى العلماء المدربين لا يستطيعون تمييزه عن الإنسان (الصورة: جيتي)

أصبح الذكاء الاصطناعي ChatGPT (AI) جيدًا بما يكفي لخداع العلماء المدربين للاعتقاد بأنهم يقرؤون نصًا كتبه إنسان.

استخدم فريق من الباحثين الذكاء الاصطناعي لإنشاء ملخصات أوراق بحثية مزيفة لاختبار ما إذا كان بإمكان العلماء الآخرين اكتشافها.

الملخصات هي ملخصات أنيقة تضاف إلى الجزء العلوي من الأوراق البحثية لإعطاء صورة شاملة لما تتم دراسته. تم تكليف ChatGPT بكتابة 50 ملخصًا للبحوث الطبية بعد أن تم “تدريبها” على مجموعة مختارة من أمثال The المجلة الطبية البريطانية (BMJ) و طب الطبيعة.

برنامج الدردشة الآلي ، الذي أحدث ثورة في عالم الإنترنت منذ طرحه للجمهور في نوفمبر ، لم يخيب أملك.

لم يقتصر الأمر على تمرير نص الكمبيوتر بنجاح عبر كاشف مكافحة الانتحال ، ولكن العلماء الفعليين لم يتمكنوا من اكتشاف الملفات المزيفة. حدد المراجعون البشريون بشكل صحيح 68 في المائة فقط من ملخصات ChatGPT و 86 في المائة من الملخصات الأصلية.

اعتقدت مجموعة الباحثين الطبيين أن 32 في المائة من الملخصات الناتجة عن الذكاء الاصطناعي كانت حقيقية.

قالت ساندرا واتشتر ، التي تدرس التكنولوجيا واللوائح في جامعة أكسفورد: “أنا قلقة للغاية”.

لم يشارك البروفيسور واتشتر في البحث ولكنه قال لموقع Nature.com: “ إذا كنا الآن في موقف لا يتمكن فيه الخبراء من تحديد ما هو صحيح أم لا ، فإننا نفقد الوسيط الذي نحتاج إليه بشدة لإرشادنا من خلال مواضيع معقدة “.

مفهوم العلم  علماء تجريبيون في المختبر الكيميائي.  التطوير والبحث العلمي في المختبر

لم يتمكن فريق من العلماء دائمًا من تحديد الملخصات الحقيقية والتي تم إنشاؤها بواسطة الذكاء الاصطناعي (الصورة: جيتي)

قال الباحثون الذين أجروا الاختبار ، بقيادة كاثرين جاو في جامعة نورث وسترن في شيكاغو ، إلينوي ، إن الحدود الأخلاقية لهذه الأداة الجديدة لم يتم تحديدها بعد.

أوضحوا في كتابتهم قبل الطباعة لدراستهم أن “ChatGPT يكتب ملخصات علمية قابلة للتصديق ، على الرغم من البيانات التي تم إنشاؤها بالكامل”.

هذه أصلية دون اكتشاف أي انتحال ولكن غالبًا ما يمكن التعرف عليها باستخدام كاشف مخرجات AI والمراجعين البشريين المتشككين.

يجب أن يكيّف التقييم المجرد للمجلات والمؤتمرات الطبية السياسات والممارسات للحفاظ على المعايير العلمية الصارمة ؛ نقترح تضمين أجهزة الكشف عن مخرجات الذكاء الاصطناعي في عملية التحرير والكشف الواضح في حالة استخدام هذه التقنيات.

لا يزال يتعين تحديد حدود الاستخدام الأخلاقي والمقبول لنماذج اللغة الكبيرة للمساعدة في الكتابة العلمية.

المزيد: ChatGPT هي ظاهرة chatbot التي أخذت الإنترنت عن طريق العاصفة في الوقت الحالي

المزيد: فيض من تطبيقات ChatGPT غير الرسمية تفرض رسومًا على الأشخاص لاستخدام أداة AI المجانية



اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى