Старший советник OpenAI Майлз Брандейдж уходит в отставку на фоне запуска новых моделей

Старший советник OpenAI по готовности к созданию искусственного общего интеллекта Майлз Брандейдж ушёл из компании после шести лет работы. В своём заявлении об уходе Брандейдж отметил, что покидает компанию, чтобы заниматься исследованиями в области политики в сфере ИИ, не связанной с технологической отраслью.

Его уход происходит в то время, когда OpenAI Сэма Альтмана борется с внутренними проблемами и преобразованиями, такими как внедрение новых продуктов, например, моделей согласованности, для стимулирования развития ИИ.

Эксперт по политике OpenAI Майлз Брандейдж уходит в отставку

Майлз Брандейдж стал членом OpenAI в 2018 году и помогал с различными политическими вопросами, а также с вопросами безопасности. Его работа в основном была связана с правильным управлением и использованием новейших и наиболее эффективных систем искусственного интеллекта, таких как ChatGPT.

На протяжении многих лет Брандейдж вносила свой вклад в развитие программы «красных команд» компании и участвовала в создании отчётов «системных карт» о сильных и слабых сторонах моделей искусственного интеллекта OpenAI.

Источник: X

Будучи членом группы по подготовке к внедрению AGI, Брандейдж давал этические рекомендации руководителям, в том числе генеральному директору Сэму Альтману, по вопросам, связанным с ИИ. Он сыграл важную роль в развитии культуры безопасности OpenAI в период становления компании.

«Работа в OpenAI — это невероятно перспективная возможность», — отметил Брандейдж на своей странице в социальной сети, добавив, что ему было тяжело уйти. Он похвалил миссию компании, но также подчеркнул важность участия большего числа независимых исследователей в обсуждении политики в области ИИ.

Переходный период на фоне смены руководства

Уход Майлза Брандейджа примечателен тем, что является частью серии изменений в OpenAI. В последние недели компанию также покинули технический директор Мира Мурати и вице-президент по исследованиям Баррет Зоф. Сэм Альтман поддержал решение Брандейджа уйти из OpenAI, заявив, что Брандейдж планирует заниматься исследованиями в области внешней политики, что пойдёт на пользу OpenAI.

Подразделение экономических исследований OpenAI, которое ранее входило в состав команды по подготовке AGI, будет управляться новым главным экономистом компании Ронни Чаттерджи. Джошуа Ачиам, руководитель отдела согласования задач, возьмёт на себя часть обязанностей, которые ранее выполнял Брандейдж в рамках проектов.

Следующей задачей, которую планирует решить Майлз Брандейдж, является регулирование ИИ, влияние ИИ на экономику и безопасность искусственного интеллекта в будущем. Он говорит, что это важные факторы, поскольку они помогают решать проблемы, связанные с применением искусственного интеллекта в отрасли, включая использование таких моделей, как модели согласованности.

Модели согласованности и новые разработки в области искусственного интеллекта

В то же время компания OpenAI Сэма Альтмана представила модели согласованности — новый подход к ускорению процессов выборки в искусственном интеллекте. Эти модели, предназначенные для создания высококачественных выборок быстрее, чем традиционные диффузионные модели, представляют собой значительный прорыв в технологии искусственного интеллекта.

Выпуск этих моделей является частью более масштабных усилий компании по расширению своих возможностей и решению проблем с эффективностью, особенно после получения финансирования в размере 6,6 миллиарда долларов.

Разработка моделей согласованности происходит в то время, когда компания сталкивается с повышенным вниманием к своей деятельности, в том числе из-за обвинений в нарушении авторских прав при обучении своих моделей. Бывшие сотрудники OpenAI, такие как Сучир Баладжи, выразили обеспокоенность методами работы компании, что привело к продолжающимся дебатам о том, как следует управлять технологиями ИИ.

Источник