Google bojuje s „halucinacemi“ ai: nový přístup je překvapivý

Modely jazykových AI občas vymýšlí fakta. Google s tím evidentně bojuje a přišel s řešením, které zní téměř jako omluvný úsměv: místo toho, aby se AI snažila být vždy naprosto přesná, má se naučit přiznávat, když si není jistá. Zní to paradoxně? Možná, ale podle výzkumníků z Googlu je to klíč k efektivnějšímu využití umělé inteligence.

Ztráta užitečnosti: cena dokonalé přesnosti

Dosavadní strategie se zaměřovaly na minimalizaci chyb, což ale vedlo k nečekanému problému – tzv.