В прошлую пятницу, 17 ноября, из компании OpenAI были уволены два сооснователя, главные лица стартапа — Сэм Альтман и Грег Брокман. По утверждениям нескольких источников, близких к ситуации, руководил сокращением Илья Суцкевер — главный научный сотрудник и сооснователь OpenAI. В прошлом материале мы восстановили ход событий, последовавший за знаменательным решением, а сегодня разберем фигуру, которая стоит за ним.
Суцкевер родился в 1984 году в Нижнем Новгороде. Вырос он в Иерусалиме, куда его семья эмигрировала, когда ему было пять. На этом переезды не закончились. Будучи подростком, Илья вместе с семьей эмигрировал в Канаду. Получил образование в Университете Торонто под руководством Джеффри Хинтона — пионера в области искусственного интеллекта, которого называют «крестным отцом ИИ». В 2012 году Хинтон и двое его аспирантов — Алекс Крижевски и Илья Суцкевер разработали нейронную сеть, обученную распознавать объекты на фотографиях. Проект под названием «AlexNet» показал, что нейронные сети гораздо лучше справляются с распознаванием образов, чем считалось ранее. Обученная на миллионе изображений нейросеть опережала все имеющиеся на тот момент алгоритмы. Вместе они основали компанию «DNNresearch Inc».
На фото слева направо: Илья Суцкевер, Алекс Крижевски, Джеффри Хинтон.
Через несколько месяцев после запуска «DNNresearch» со всеми наработками купил Google. Основателей компании наняли в штат для продолжения исследований. Работая в технологическом гиганте, Суцкевер продемонстрировал, что тот же тип распознавания образов, который «AlexNet» использует для изображений, работает со словами.
Вскоре Илья привлек внимание другого влиятельного игрока в области искусственного интеллекта — Илона Маска. Миллиардер давно предупреждал о потенциальной опасности, которую ИИ представляет для человечества. В частности, его встревожило то, что соучредитель Google Ларри Пейдж не заботится о безопасности ИИ. Рискованной он назвал и концентрацию профессионалов в области ИИ, работающих в Google.
Согласившись с идеями Маска, Суцкевер покинул Google в 2015 году, чтобы стать соучредителем и главным научным сотрудником OpenAI. Стартап задумывался, как некоммерческая организация, которую Маск считал противовесом Google в сфере искусственного интеллекта.
«Это была одна из самых тяжелых битв за набор персонала, которые я когда-либо вел, но это стало залогом успеха OpenAI», — сказал Маск.
Помимо этого, миллиардер добавил, что Илья не только интеллектуально одарен, но является «хорошим человеком с добрым сердцем».
В OpenAI Суцкевер сыграл ключевую роль в разработке языковых моделей GPT-2, GPT-3 и модели преобразования текста в изображение DALL-E.
В конце 2022 года был выпущен ChatGPT, который менее чем за два месяца привлек 100 миллионов пользователей и положил начало буму искусственного интеллекта. Суцкевер рассказал Technology Review, что чат-бот дал людям представление о том, что возможно благодаря искусственному интеллекту, даже если иногда он разочаровывал неверными результатами.
Что предшествовало увольнению основателей OpenAI?
Ранее в этом году Джеффри Хинтон покинул Google. «Крестный отец ИИ» предупредил, что компании, занимающиеся разработками в этой области, не обращают внимания на сопутствующие риски, агрессивно создавая инструменты генеративного искусственного интеллекта, такие как ChatGPT от OpenAI.
…происходящее в этих системах по сложности намного превосходит процессы в человеческом мозге. Посмотрите на то, что происходило в сфере исследований ИИ пять лет назад и на то, что происходит сейчас. Представьте, с какой скоростью изменения будут происходить в будущем. Это пугает. Трудно представить, как можно помешать злоумышленникам использовать его для плохих целей…
Сам Суцкевер сосредоточил свое внимание на потенциальных опасностях ИИ. По его словам, сверхинтеллект может появиться в течение 10 лет и вопрос о его регулировании нужно решить заранее.
Илья Суцкевер, твит от 10 февраля 2022 года (за 9 месяцев до публичного релиза ChatGPT): «Возможно, что нынешние большие нейронные сети уже отчасти сознательны».
«Важно гарантировать, чтобы любой создаваемый искусственный интеллект в итоге не стал вредоносным», — сказал Суцкевер в интервью Technology Review.
В июле Илья и его коллега Ян Лейке опубликовали пост в блоге OpenAI. Они предупредили, что, хотя сверхинтеллект может помочь «решить наиболее важные мировые проблемы», он также может «быть очень опасным, привести человечество к лишению своих возможностей или даже к исчезновению всего вида».
Заголовок публикации в блоге за авторством Суцкевера и Лейке:
Нам нужны научные и технические прорывы, чтобы контролировать системы искусственного интеллекта, которые намного умнее нас. Чтобы решить эту проблему в ближайшие четыре года, мы создаем новую команду под руководством Ильи Суцкевера и Яна Лейке, выделяя под эти задачи 20% имеющихся вычислительных ресурсов. Мы ищем исследователей и инженеров, которые присоединятся к нам.
В прошлом месяце Илья Суцкевер, который обычно избегает внимания средств массовой информации, дал сразу несколько больших интервью: MIT Technology Review и The Guardian. В них он повторил свои опасения относительно безопасности создания искусственного интеллекта.
По словам анонимных источников, ключевым моментом, повлиявшим на смену руководства в OpenAI стал именно вопрос безопасности. Суцкевер был не согласен с Альтманом по поводу того, как быстро коммерциализируются продукты OpenAI и какие шаги необходимо предпринять для уменьшения потенциального вреда технологии.
Согласно материалу издания The Information, после увольнения Альтмана и Брокмана сотрудники компании OpenAI спросили Илью Суцкевера, является ли это «переворотом» или «враждебным поглощением» другими членами совета директоров.
Можно так это называть. И я могу понять, почему вы выбрали это слово. Но я с этим не согласен. Это решило правление, выполняющее свой долг перед миссией некоммерческой организации. Она заключается в том, чтобы OpenAI создала искусственный интеллект, который принесет пользу всему человечеству.
Неожиданные последствия
В воскресенье, 19-го числа, инвесторы во главе с CEO Microsoft Сатьей Наделлой надавили на совет директоров OpenAI, поддержав Сэма Альтмана и настаивая на его возвращении в компанию. Правление компании начало переговоры. Сэм выдвинул условия о том, что весь совет директоров должен покинуть OpenAI. Совет принял данное условие, но нарушил дедлайн, который установил Альтман. Утром 20 ноября Сэм заявил, что он отклоняет предложение о возвращении в OpenAI в качестве CEO. Вместо этого они с Грегом Брокманом присоединяются к команде Microsoft, занимающейся исследованиями в области искусственного интеллекта.
Вслед за этой новостью 505 из 700 сотрудников OpenAI написали открытое письмо к правлению компании с требованием уйти в отставку.
Ваши действия говорят о том, что вы более не в состоянии управлять OpenAI… Мы, нижеподписавшиеся, можем уйти из компании и присоединиться к Microsoft вместе с Сэмом Альтманом и Грегом Брокманом. Microsoft подтвердила, что в новом подразделении найдутся места для всех. Если весь совет директоров не уйдет в отставку, мы согласимся на их предложение.
12-ым в списке подписавших письмо значится Илья Суцкевер.
В своем профиле в X он позже опубликовал пост следующего содержания:
Илья Суцкевер: «Я очень сожалею о моем участии в действиях правления. Я не хотел причинить вред OpenAI. Я люблю все, что мы создали вместе и я сделаю все, что в моих силах, чтобы снова объединить компанию».
Сэм Альтман и Грег Брокман процитировали пост, прокомментировав его многозначительными сердечками.
Был ли Илья Суцкевер идейным вдохновителем данного увольнения, но испугался непредсказуемых последствий для компании или стал всего лишь пешкой в большой игре совета директоров? Вряд ли мы узнаем детали случившегося за кулисами прежде, чем по этой истории снимут байопик от Netflix.
UPD: 700 из 770 сотрудников компании подписали открытое письмо к правлению с требованием уйти в отставку. Инвесторы OpenAI подают в суд на совет директоров.
Главные новости из мира нейросетей — Telegram-канал Нейросети от Partnerkin.
Источник
