Группа нынешних и бывших сотрудников компаний по искусственному интеллекту, включая OpenAI, Google DeepMind и Anthropic, выразили обеспокоенность потенциальными рисками, связанными с быстрым развитием и внедрением технологий искусственного интеллекта.
Проблемы, изложенные в открытом письме, варьируются от распространения дезинформации до возможной потери контроля над автономными системами искусственного интеллекта и даже к ужасной возможности исчезновения человечества.
Сотрудники OpenAI, Google DeepMind, Anthropic высказывают обеспокоенность искусственным интеллектом
13 бывших и нынешних сотрудников разработчиков искусственного интеллекта OpenAI (ChatGPT), Anthropic (Claude) и DeepMind (Google), а также “отцы-основатели искусственного интеллекта” Йошуа Бенджио и Джеффри Хинтон и ученый по искусственному интеллекту Стюарт Расселл инициировали петицию “Право предупреждать об искусственном интеллекте”. Петиция направлена на установление обязательства перед ведущими компаниями по искусственному интеллекту позволить сотрудникам высказывать свои обеспокоенности внутри компании и перед общественностью.
Группа нынешних и бывших сотрудников OpenAI – некоторые из них анонимные – вместе с Йошуа Бенджио, Джеффри Хинтоном и Стюартом Расселлом выпустили сегодня утром открытое письмо под названием ‘Право предупреждать об усовершенствованном искусственном интеллекте’.https://t.co/uQ3otSQyDA pic.twitter.com/QnhbUg8WsU
— Andrew Curran (@AndrewCurran_) 4 июня 2024 года
В открытом письме авторы объясняют, что из-за финансовых мотивов компании по искусственному интеллекту сосредотачиваются на создании продукта, а не на его безопасности. Подписанты утверждают, что эти финансовые стимулы компрометируют процесс надзора и что у компаний по искусственному интеллекту ограниченные юридические обязательства раскрывать информацию о сильных и слабых сторонах своих систем перед правительствами.
Письмо также фокусируется на текущем состоянии регулирования искусственного интеллекта и утверждает, что компаниям нельзя доверять в раскрытии важных данных.
Впоследствии они утверждают, что угрозы, представленные искусственным интеллектом без должного регулирования, такие как распространение фейковых новостей и ухудшение неравенства, требуют более активного и ответственного подхода к инновациям и применению искусственного интеллекта.
Обеспокоенность безопасностью и призывы к изменениям
Сотрудники требуют изменений в индустрии искусственного интеллекта и просят компании внедрить систему, в рамках которой нынешние и бывшие сотрудники могут сообщать о своих проблемах, связанных с риском. Они также предлагают, чтобы компании по искусственному интеллекту не навязывали соглашения о неразглашении, которые препятствуют критике, чтобы люди могли высказывать свои обеспокоенности о рисках технологий искусственного интеллекта.
Уильям Сондерс, бывший сотрудник OpenAI, сказал,
«Сегодня те, кто лучше всего понимают, как функционируют передовые системы искусственного интеллекта и какие потенциальные опасности связаны с их использованием, не могут свободно делиться своими идеями, потому что они боятся последствий, и соглашения о неразглашении слишком строгие».
Письмо выпущено в период, когда в индустрии искусственного интеллекта существуют опасения по поводу безопасности высокоуровневых систем искусственного интеллекта. Уже есть случаи, когда генераторы изображений от OpenAI и Microsoft создают фотографии с дезинформацией о голосовании, хотя такой контент запрещен.
В то же время существуют опасения, что безопасность искусственного интеллекта “деприоритизируется”, особенно в стремлении к AGI, которое стремится разработать программное обеспечение, способное имитировать человеческое мышление и обучение.
Ответы компаний и контроверзии
OpenAI, Google и Anthropic все еще должны рассмотреть проблемы, выдвинутые сотрудниками. Тем не менее, OpenAI подчеркнула важность безопасности и должного обсуждения технологий искусственного интеллекта. В компании есть внутренние проблемы, такие как распад ее команды по безопасности Superalignment, что заставило людей сомневаться в приверженности компании к безопасности.
Тем не менее, как отмечал Coingape ранее, OpenAI создала новый Комитет по безопасности и защите, чтобы принимать важные решения и улучшать безопасность искусственного интеллекта по мере развития компании.
Несмотря на это, некоторые бывшие члены совета обвинили руководство OpenAI в неэффективности, особенно в отношении подхода организации к вопросам безопасности. В подкасте бывший член совета Хелен Тонер раскрыла, что предположительно генеральный директор OpenAI Сэм Альтман был уволен за то, что не делился информацией с советом.
Читайте также: Может ли цена GameStop (GME) возглавить ралли мем-монеты до $1?