NVIDIA
На ежегодной конференции GTC генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) прокомментировал актуальные вопросы об искусственном общем интеллекте (AGI) и проблему галлюцинаций в ответах ИИ-систем.
Что известно
По словам Хуанга, достижение приемлемого уровня AGI, способного работать на человеческом уровне или превосходить людей в широком спектре задач, может произойти в течение ближайших 5 лет. Однако конкретные временные рамки зависят от того, как мы определим критерии AGI.
“Если мы зададим AGI как набор специфических тестов, в которых программа сможет показать результаты на 8% лучше, чем большинство людей, я верю, мы добьемся этого за 5 лет”, — пояснил Хуанг.
В качестве таких тестов он назвал экзамены для юристов, логические тесты, экономические испытания или медицинские вступительные экзамены.
Что касается проблемы галлюцинаций, или тенденции ИИ выдавать ложные, но правдоподобные ответы, Хуанг считает ее решаемой. Он предложил обязать системы изучать и подтверждать ответы из достоверных источников перед выдачей результата.
“Добавьте правило: для каждого ответа вы должны проводить поиск и исследование”, — сказал Хуанг.
По его словам, этот процесс может быть похожим на проверку фактов в журналистике: сравнить факты из источников с известными истинами, и если ответ частично неточен — отбросить весь источник.
