GeekWire
Инженер по искусственному интеллекту из Microsoft Шейн Джонс (Shane Jones) утверждает, что в начале декабря обнаружил уязвимость в модели генерации изображений DALL-E 3 от компании OpenAI. С ее помощью пользователи могут обходить защиту и создавать вредоносный контент, утверждает разработчик.
Что известно
После обнаружения уязвимости Джонс сразу сообщил о ней руководству. Однако ему порекомендовали обратиться напрямую в OpenAI.
После этого Джонс опубликовал пост с критикой в адрес OpenAI в LinkedIn, однако юридический отдел Microsoft потребовал немедленно удалить сообщение. Разработчик выполнил требование работодателя.
По мнению Джонса, из-за обнаруженных им недостатков DALL-E 3 представляет угрозу для общественной безопасности и должна быть изъята из публичного доступа. Он призвал OpenAI решить проблемы модели, однако так и не получил от компаний ответа.
Microsoft и OpenAI заявили, что расследовали сообщение Джонса и не нашли подтверждений того, что уязвимость позволяет обойти защиту. При этом в Microsoft не смогли объяснить инженеру, почему потребовали удалить пост.
Джонс направил информацию об уязвимости генпрокурору штата Вашингтон и конгрессменам США. Он призвал власти создать систему отслеживания рисков ИИ.
Также он выразил готовность стать информатором и попросить юридической защиты от преследований со стороны компаний, если таково потребуется.
