Разработчик пожаловался на Copilot: ИИ более 11 000 раз добавил саморекламу в описаниях правок кода на GitHub

Компания Microsoft активно развивает своё направление в области искусственного интеллекта, однако иногда может переусердствовать. Сообщается, что на платформе GitHub, принадлежащей компании, в описаниях предложенных изменений кода (pull requests) стала появляться самореклама от Copilot. Это происходит не случайно. Разработчик Зак Мэнсон поделился своим опытом. Он использовал Copilot для исправления опечатки в запросе. Искусственный интеллект справился с задачей, но добавил в описание запроса рекламу самого себя и Raycast.

В тексте было указано: "Создано Grok. Быстро запускайте задачи агента кодирования Copilot из любой точки вашего компьютера macOS или Windows с помощью Raycast". Мэнсон отреагировал на это крайне негативно, заявив: "Это ужасно. Я знал, что подобная чушь рано или поздно случится, но не ожидал, что это произойдет так скоро". Поиск по фразе показал, что таких запросов на платформе уже более 11 000.

Однако, похоже, Microsoft уже отказалась от этой идеи. Мартин Вудворд, вице-президент по связям с разработчиками в GitHub, пояснил, что Copilot мог добавлять подсказки к запросам на слияние в GitHub, но эта функция была отключена после получения негативных отзывов.

Источник