Ваш купон на скидку:
В Великобритании количество жалоб в жилищного омбудсмена более чем удвоилось с момента появления ChatGPT, увеличившись с 2600 в 2022 году до чуть более 7000 в прошлом году. Бюро финансовой защиты потребителей США (CFPB) зафиксировало пятикратный рост жалоб за тот же период. Аналогичные скачки наблюдались в судебных петициях в Бразилии и парламентских петициях в Германии. Исследователь Крис Шмитц отслеживает этот рост как часть более широкой тенденции, которую он назвал «агентным наводнением». В статье, которая будет представлена в следующем месяце на конференции по этике и обществу в области ИИ, он рассматривает 84 различных случая потенциального наводнения в 11 юрисдикциях, находя широкие доказательства того, что инструменты ИИ меняют способ взаимодействия людей с государственными услугами.
Шмитц изучил услуги от заявлений на социальные пособия до официальных судебных апелляций, и все они имеют онлайн-сервисы, к которым может получить доступ ИИ-помощник. Полный набор данных размещён в открытом доступе для ознакомления. По методологическим причинам работа Шмитца не утверждает напрямую, что ИИ непосредственно вызывает всплеск новых заявителей. Однако большинство из 84 случаев следуют одной базовой траектории: количество обращений было примерно стабильным до 2022 года, а затем начало расти с увеличивающейся скоростью по мере распространения технологий ИИ. Важно отметить, что в большинстве случаев этот рост не замедлился, что позволяет предположить, что он, вероятно, продолжит расти в ближайшие годы.
По словам Шмитца, легко понять, как растущие возможности и доступность ИИ стимулируют более активное использование. «Люди узнают, что это можно сделать, и постепенно это становится всё проще. Раньше это могло быть вопросом сбора большого количества контекста и очень точного промптинга ChatGPT 3.5, теперь это может быть просто вопросом вставки или фотографирования письма в приложении Claude и получения довольно хорошего ответа с одной попытки», — сказал он. Скачок объёма аналогичен тому, что многие сервисы bug-bounty также испытали в прошлом году, когда компании обнаружили, что их почтовые ящики заполнены низкокачественными отчётами, созданными большими языковыми моделями. Отчёты редко содержали значительные проблемы безопасности, но компании всё равно были обязаны проверять их по мере поступления, что представляло значительную нагрузку на ресурсы.
Легко представить, что государственные службы сталкиваются с аналогичной проблемой, управляя в пять раз большим количеством заявителей с тем же бюджетом. Однако если программы bug bounty были завалены бесполезными заявками, Шмитц утверждает, что большинство новых обращений в государственные службы поступают от реальных людей с законными претензиями. «Подавляющее большинство случаев, которые мы находим, — это люди, имеющие право на что-то претендовать, и они претендуют на это», — сказал он изданию TechCrunch. Если эти люди раньше не обращались за пособиями, возможно, это было потому, что работа по подаче заявления была слишком пугающей — явление, известное в политической сфере как административное бремя. Теперь, когда ИИ может снять это бремя, это может стать возможностью переосмыслить многие из этих услуг более дружественным к ИИ способом. Это масштабная задача, к решению которой мы в основном ещё не приступили, но Шмитц видит в этом повод для оптимизма. «Большая часть того, чтобы ИИ работал хорошо, заключается в способности детально описать, как выглядит хорошая версия вещей. И любой, кто когда-либо использовал ChatGPT для заполнения налоговой декларации, знает, что существует хорошая версия, где вам помогают», — говорит Шмитц. «Это может быть момент, чтобы сказать: нам нужно переосмыслить практически всё, что касается того, как выглядит этот процесс».