اطلاعات نادرست هوش مصنوعی

نقد اطلاعات نادرست هوش مصنوعی و منابع نامشخص:

توهم‌زایی مدل‌های زبانی نتیجه بهینه‌سازی برای «احتمال پذیرش» است، نه صدق؛ مدل جمله‌ای را می‌سازد که از نظر آماری محتمل است. پژوهش‌ها نشان می‌دهد ارجاع‌های ساختگی حتی در مدل‌های بزرگ رخ می‌دهد چون مدل حافظه منبع ندارد و الگوی ارجاع را تقلید می‌کند. چطور می‌شود خروجی هوش مصنوعی را بدون منبع‌یابی مستقل سنجید؟

راهکار:

هوش مصنوعی مولد بر پایه پیش‌بینی الگوهای زبانی کار می‌کند، نه جست‌وجوی قطعی در منابع؛ به همین دلیل جزئیات و ارجاع‌ها باید جداگانه راستی‌آزمایی شوند. برای مقاله، ترکیب خروجی هوش مصنوعی با ۲ تا ۳ منبع دست‌اول، خطا را به‌شدت کم می‌کند.