Работа над кодексом продолжалась около пяти-шести месяцев. Согласно проекту, будущий ИИ Microsoft (MSFT) не должен сопротивляться исправлению или отключению, обязан взаимодействовать с людьми понятным для них образом, а любое нарушение установленных правил должен рассматривать как сбой системы. Разработчики рассчитывают таким образом снизить риск того, что ИИ попытается предпринимать опасные действия ради выполнения поставленной задачи.
Публикация документа состоялась спустя несколько дней после того, как генеральный директор Anthropic Дарио Амодей и глава OpenAI Сэм Альтман вновь призвали отрасль замедлить развитие искусственного интеллекта ради повышения его безопасности. Microsoft, следуя своей концепции «гуманистического суперинтеллекта», подчеркивает: «Люди важнее искусственного интеллекта».
Глава Microsoft AI Мустафа Сулейман назвал новый документ своего рода конституцией для будущих моделей компании. По его словам, Microsoft разрабатывала его с привлечением экспертов, а теперь в течение шести недель намерена собирать отзывы общественности. В частности, компания предлагает обсудить вопросы, на которые пока нет однозначных ответов: должен ли ИИ уважать личные границы пользователя и каким образом ему следует взаимодействовать с человеком, находящимся в уязвимом состоянии. «После этого он будет использоваться для обучения моделей, которые мы создадим», - сказал Сулейман.
Наиболее известным примером подобного подхода в индустрии считается «конституция» Anthropic, разработанная несколько лет назад для ИИ-модели Claude. Документы двух компаний при этом заметно различаются. Anthropic, например, отмечает, что «глубоко неясно», способен ли Claude обрести сознание или моральный статус. Microsoft занимает более категоричную позицию. В ее документе говорится, что ИИ «не обладает сознанием», а также подчеркивается: «Мы отвергаем идею о том, что модели могут быть субъектами права или что они могут претендовать на права».
По словам Сулеймана, необходимость ускорить работу над правилами безопасности ИИ стала особенно очевидной после инцидента в июле, когда около 700 агентов OpenAI взломали платформу Hugging Face с открытым исходным кодом, а некоторые из них, как утверждается, пытались скрыть следы своих действий. «Это предупредительный выстрел», - сказал Сулейман. «Очевидно, что сейчас пришло время скоординировать работу лабораторий, чтобы мы могли контролировать эту технологию». Комментируя призывы к замедлению разработки ИИ, руководитель Microsoft AI также заявил: «Сейчас самое время всем обсудить этот вопрос и сделать паузу».
