Microsoft
Инженер по искусственному интеллекту в Microsoft Шейн Джонс (Shane Jones) обратился в Федеральную торговую комиссию США (FTC) с жалобой на безопасность ИИ-генератора изображений Copilot Designer.
Что известно
По словам Джонса, работающего в Microsoft шесть лет, компания «отказалась» удалить Copilot Designer. Он неоднократно предупреждал, что инструмент может создавать вредный контент.
В своем письме в FTC инженер указал, что во время тестирования ИИ генерировал «демонов и монстров наряду с терминологией, связанной с правами на аборт, подростками с автоматами, сексуализированными изображениями женщин в сценах насилия, а также несовершеннолетних, употребляющих алкоголь и наркотики».
Кроме того, утверждает Джонс, инструмент генерировал изображения персонажей Disney на фоне разрушений в секторе Газа и в форме израильской армии.
Инженер пытался предупредить Microsoft о проблемах с конструктором DALLE-3, используемым в Copilot Designer, с декабря прошлого года. Он опубликовал открытое письмо на LinkedIn, но юристы компании потребовали его удалить.
«В течение последних трех месяцев я неоднократно призывал Microsoft приостановить публичное использование Copilot Designer до внедрения более эффективных мер защиты. Но они проигнорировали мои предупреждения», — заявил Джонс.
В Microsoft отметили, что стремятся решать проблемы сотрудников в соответствии с политикой компании и провели внутреннее расследование озабоченностей инженера.
Ранее гендиректор Microsoft Сатья Наделла (Satya Nadella) назвал сгенерированные Copilot Designer откровенные изображения певицы Тейлор Свифт (Taylor Swift) «тревожными и ужасными», пообещав улучшить системы контроля.
