Искусственный интеллект, создавая галлюцинации, нанес ущерб в $67 миллиардов. Однако платформа CTGT разработала метод их быстрого устранения всего за несколько минут.

Компания CTGT, занимающаяся интеграцией искусственного интеллекта в области с высоким уровнем риска, анонсировала крупное обновление своей платформы.

Новая версия, представленная 27 июня, позволяет эффективно устранять предвзятость, галлюцинации и другие нежелательные эффекты в работе ИИ-моделей, таких как DeepSeek и других решений с открытым исходным кодом.

Презентация обновлённой платформы состоялась на конференции VentureBeat Transform 2025, прошедшей 24-25 июня в Сан-Франциско, где CTGT одержала победу в конкурсе VentureBeat Innovation Showcase, обойдя шесть других финалистов.

Результаты тестирования впечатляют: благодаря CTGT, модель DeepSeek теперь корректно отвечает на 96% сложных вопросов, тогда как ранее этот показатель составлял лишь 32%.

Это особенно важно на фоне растущей проблемы галлюцинаций в ИИ: по данным McKinsey, в 2024 году мировые убытки от этого явления достигли $67,4 миллиарда.

Deloitte сообщает, что 47% корпоративных пользователей ИИ принимали важные решения, основываясь на недостоверной информации, предоставленной моделями.

Ситуация ухудшается: новые версии некоторых моделей, таких как ChatGPT 4.5, демонстрируют ещё более высокие показатели галлюцинаций, достигающие 30%.

В то же время, DeepSeek R1 имеет показатель галлюцинаций в 14,9%, и значительная часть дезинформации в этой модели, вероятно, была намеренно заложена китайским правительством.

В условиях, когда точность работы ИИ критически важна, доверие к таким моделям становится ключевым фактором.

CTGT, основанная в феврале с инвестициями в $7 миллионов от Gradient (ранний фонд ИИ Google), General Catalyst, Y Combinator, Liquid 2, Deepwater и ряда известных инвесторов, включая Франсуа Шолле (Google, создатель Keras), Майкла Сейбела (Y Combinator, соучредитель Twitch) и Пола Грэма (Y Combinator), изначально сосредоточилась на снижении вычислительных затрат при обучении и развёртывании ИИ-моделей.