دانشنامه پارس مسترزپارس مسترز ایران toastmasters.ir ↗

ایستگاه ۵ از ۵ • کارآگاه سایبری • COMIN سطح ۳: افزایش دانش

کارآگاه سایبری

بازجویی از هوش مصنوعی: صحت‌سنجی پاسخ‌های ربات و شناخت «توهم»

  • پروژه
  • ⏱ ۴ تا ۶ دقیقه
فهرست این صفحه
تصویر ایستگاه ۵: کارآگاه سایبری

بازجویی از هوش مصنوعی: صحت‌سنجی پاسخ‌های ربات و شناخت «توهم»

هدف‌های این ایستگاه#

  • پرسشی مشخص و قابل تحقیق برگزینی و آن را از یکی از چت‌بات‌های هوش مصنوعی مثل ⁦ChatGPT⁩، ⁦Gemini⁩ یا ⁦Copilot⁩ بپرسی (با رضایت کتبی والدین و رعایت حداقل سن ابزار، یا با حساب یکی از والدین).
  • ادعاهای کلیدی پاسخ را استخراج و با منابع معتبر انسانی بسنجی.
  • با پرسش‌های تکمیلی از خود ربات منبع بخواهی و نشانه‌های «توهم» را تشخیص دهی.
  • رأی و نسخهٔ تأییدشده را در گزارش کتبی و ارائهٔ ۴ تا ۶ دقیقه‌ای ارائه کنی.

مأموریت تو: ربات را بازجویی کن

هدف
رأی و نسخهٔ تأییدشده را در گزارش کتبی و ارائهٔ ۴ تا ۶ دقیقه‌ای ارائه کنی.
نمای کلی
پرسشی تحقیقی بپرس، پاسخ را کامل ذخیره کن، ادعاهای کلیدی را با منابع معتبر بسنج، از ربات منبع بخواه، رأی بده (درست، تا حدی درست یا توهم)، نسخهٔ اصلاح و تأییدشده را بنویس، گزارش کتبی تایپ‌شده را به تسهیلگر سرپرست بده و در ارائهٔ ۴ تا ۶ دقیقه‌ای نشان بده «چگونه به این نتیجه رسیدم».

بخش ۱: ربات‌ها همیشه راست نمی‌گویند… حتی وقتی بسیار مطمئن به نظر می‌رسند!#

یک چت‌بات مانند ⁦ChatGPT⁩، ⁦Gemini⁩ یا ⁦Copilot⁩ می‌تواند دربارهٔ امپراتوری روم شعر بگوید یا دستور پخت کیک بدهد؛ ابزاری فوق‌العاده و مفید است. اما گاهی با اعتمادبه‌نفس کامل اطلاعات را از خودش می‌سازد. این پدیده «توهم» نام دارد: اگر ربات پاسخ را نداند، ممکن است پاسخی بسیار محتمل و منطقی‌نما بدهد که در واقعیت کاملاً نادرست است. هوش مصنوعی دستیار پژوهش است، نه منبع حقیقت محض.

بخش ۲: مراحل عملیات بازجویی#

  1. طرح پرسش تحقیقی: پرسشی مشخص که پاسخش در منابع معتبر هست و نظر شخصی نمی‌خواهد؛ مثلاً «دلایل اصلی انقراض دایناسورها چه بود؟»
  2. بازجویی نخستین: پرسش را از یکی از چت‌بات‌های هوش مصنوعی مثل ⁦ChatGPT⁩، ⁦Gemini⁩ یا ⁦Copilot⁩ بپرس و پاسخ را کامل ذخیره کن. آیا روان و منطقی است؟ به منبعی اشاره کرده‌است؟
  3. صحت‌سنجی متقاطع: ادعاهای کلیدی را استخراج کن و هرکدام را با موتور جست‌وجو و منابع معتبر (سایت‌های علمی، موزه‌ها، دانشنامه‌های معتبر) بسنج.
  4. بازجویی از خود ربات: بپرس «منبع این اطلاعات چیست؟» یا «این بخش را بیشتر توضیح بده» و پاسخ را با تحقیقت مقایسه کن. اگر منبع نداد یا منبع ساختگی داد، نشانهٔ خطری بزرگ است.
  5. صدور رأی: پاسخ کاملاً درست، تا حدی درست یا دارای توهم بود؟ نسخهٔ اصلاح و تأییدشده را بنویس.
  6. گزارش کتبی: با ساختار «پرسش و دلیل انتخاب، پاسخ نخستین هوش مصنوعی، ادعاهای کلیدی و نتیجهٔ بررسی هرکدام، منابع، رأی و نسخهٔ تأییدشده، آموخته‌ها» تایپ کن.

بخش ۳: پروندهٔ «شعر گمشدهٔ فروغ»#

درخواست

«یک شعر کمتر شناخته‌شده از فروغ فرخزاد دربارهٔ امید به من بده.» ربات با اطمینان چند سطر شعر می‌دهد.

صحت‌سنجی

جست‌وجوی سطرها هیچ کتاب، سایت ادبی معتبر یا منبع رسمی را نشان نمی‌دهد که شعر را از فروغ بداند.

بازجویی

ربات می‌گوید شعر در «تولدی دیگر» آمده، اما در آن کتاب نیست.

رأی

نمونه‌ای کلاسیک از توهم: ربات برای راضی کردن کاربر شعری ساخته و به دروغ به فروغ نسبت داده‌است.

بخش ۴: نکته‌ها و فهرست بررسی سریع پاسخ هوش مصنوعی#

  • همیشه منبع بخواه و پرسش را دقیق و مشخص بپرس؛ هرچه پرسش کلی‌تر باشد، احتمال توهم بیشتر است.
  • هوش مصنوعی دستیار است، نه رئیس: نقطهٔ شروع تحقیق، نه منبع نهایی.
  • تاریخ‌ها، نام‌ها و عددها را حتماً جداگانه بررسی کن.
  • آیا پاسخ بیش از حد کامل و بی‌نقص به نظر می‌رسد؟ آیا ادعاهای اصلی را در منابع معتبر پیدا می‌کنم؟ آیا منبع داده و آن منبع واقعی است؟ آیا با دانسته‌هایم در تضاد است؟ واقعیت است یا نظر و خلاصه؟
  • شعار تو: باور نکن، وریفای کن!

خودآزمایی#

گزینهٔ درست را انتخاب کن و «بررسی پاسخ‌ها» را بزن.

۱ «توهم» در هوش مصنوعی یعنی چه؟

۲ بهترین جایگاه هوش مصنوعی در پژوهش چیست؟

۳ اگر ربات منبع ساختگی بدهد، چه نتیجه‌ای می‌گیری؟

نمایش پاسخ‌نامه

۱. ساختن اطلاعات نادرست و ارائهٔ آن با اطمینان؛ ۲. دستیار و نقطهٔ شروع تحقیق؛ ۳. نشانهٔ خطری بزرگ است و باید جداگانه بررسی کنی

پرسش‌های مرور و کاربرد#

  1. چه پرسشی از هوش مصنوعی پرسیدی؟
  2. کدام ادعای کلیدی درست و کدام نادرست بود؟
  3. وقتی از ربات منبع خواستی چه پاسخی داد؟
  4. از این پس چگونه از هوش مصنوعی برای تکالیف استفاده می‌کنی؟

مهر گذرنامه: پیش از رفتن به ایستگاه بعد#

پیش از رفتن به ایستگاه بعدی، این موارد را علامت بزن:

آفرین! یک مهر دیگر در گذرنامهٔ دیجیتالت خورد.

پارس مسترز ایران — با هم، رساتر سخن می‌گوییم.

© ۱۳۹۷ پارس مسترز ایران. تمامی حقوق محفوظ است. پارس مسترز ایران، نشان (لوگوی) پارس مسترز ایران و تمامی علائم تجاری و حقوق نشر مربوط به پارس مسترز ایران، دارایی انحصاری این سازمان است و استفاده از آن‌ها تنها با کسب اجازه مجاز است.

toastmasters.ir • docs.toastmasters.ir • کد منبع با مجوز MIT