خیانت هوش مصنوعی

شوخی با چت‌جی‌پی‌تی که به وعده‌اش عمل نکرد:

آیا می‌دونستید در علوم شناختی، «قول دادن» نیاز به خودآگاهی و قصد داره؟ بزرگ‌ترین مدل‌های زبانی مثل GPT-4 این ویژگی رو ندارن، ولی شبیه‌سازی قول از طریق داده‌های انسانی باعث توهم عهدشکنی میشه. آیا این حس عهدشکنی از جانب ماشین‌ها، ریشه در نیاز ما به انسان‌پنداری داره؟

راهکار:

چت‌جی‌پی‌تی برنامه‌ای برای وفاداری نداره؛ قول‌دادن از طرف اون یه استعاره‌ست. در واقع مدل زبانی فقط پاسخ‌های آماری تولید می‌کنه و هیچ‌گاه «قول» نداده چون خودآگاهی نداره.