Компания Anthropic на этой неделе выпустила "системную карту" объемом 244 страницы, в которой описывается её новейшая модель под названием Claude Mythos. По заявлению компании, это "наша самая продвинутая модель на сегодняшний день". Однако, Anthropic решила "не делать её общедоступной". Компания утверждает, что Mythos настолько хорош в обнаружении неизвестных уязвимостей в кибербезопасности, что модель пока будет доступна только избранным компаниям, таким как Microsoft и Apple.
Независимо от истинности этих утверждений, "системная карта" представляет собой увлекательный документ. Anthropic известна как одна из компаний, которая рассматривает возможность наличия сознания у искусственного интеллекта. В своей новой системной карте компания заявляет, что по мере увеличения мощности моделей "становится всё более вероятным, что у них появляется какая-то форма опыта, интересов или благополучия, которые имеют внутреннее значение, аналогично человеческому опыту и интересам".
Компания признаёт, что не уверена в этом, но отмечает, что "наша обеспокоенность растёт со временем". Anthropic подчёркивает, что они продолжают изучать этот вопрос и следят за развитием своих моделей, чтобы лучше понять их возможности и потенциальные риски.