Российские исследователи разработали систему машинного обучения, позволяющую ускорить процесс фактчекинга, передает информационный портал «Якутия 24» со ссылкой на ТАСС.
«Важным преимуществом программы является ее способность работать с различными типами утверждений. Благодаря использованию машинного обучения и современных алгоритмов нам удалось добиться обработки и анализа информации с достаточно высокой точностью и надежностью», – приводятся слова руководителя проекта «Искусственный интеллект в информационных процессах» Центра ИИ НИУ ВШЭ Дмитрия Ильвовского.
Ученые разработали систему машинного обучения, которая способна решать одну из самых сложных для ИИ задач – проверять достоверность тех или иных утверждений. Сложность в ее решении связана с тем, что большинство существующих нейросетей, в том числе большие языковые модели уровня GPT4, при ответе на любые вопросы склонны к «галлюцинациям», если у них нет точных и непротиворечивых данных.
Так, российские ученые разработали алгоритм, который способен вычленять утверждения из текстовых фрагментов и находить в обширном архиве верифицированной информации возможные подтверждения или опровержения для подобных заявлений.
Текущая версия программы способна делать подобные проверки для фраз на русском, болгарском и английском языках, однако впоследствии число поддерживаемых языков можно легко расширить.
Как отмечают исследователи, разработанная ими система может использовать в качестве базы для проведения фактчекинга как открытую информацию, такую как различные онлайн-энциклопедии, так и наборы специализированных данных, связанные с какой-то узкой областью знаний.
