The OpenAI Files: что не так с крупнейшим разработчиком AI
Вчера появился отчет The OpenAI Files, в котором рассказывается о проблемах в компании. Про Сэма Альтмана, совет директоров, сотрудников и так далее. Я собрал основные выводы из него
Создатели отчета The OpenAI Files утверждают, что «это наиболее полная на сегодняшний день коллекция задокументированных проблем, связанных с методами управления, честностью руководства и организационной культурой в OpenAI». Ниже сделал краткую выжимку.
Для начала важный вопрос — кто авторы? Ведь сайт появился на фоне новостей о том, что отношения между OpenAI и ее крупнейшим инвестором Microsoft близки к точке кипения. OpenAI хочет большей независимости и стать коммерческой, а Microsoft не особо с этим согласна.
На сайте указано, что авторами являются The Midas Project и The Tech Oversight Project. Первый — мониторит и расследует практики AI-компаний, чтобы гарантировать прозрачность и соблюдение этических стандартов. Второй — следит за всем бигтехом, чтобы компании соблюдали антимонопольное законодательство, безопасность и так далее.
«Мы не получали никакого финансирования, редакционных указаний, помощи или поддержки любого рода от Илона Маска, xAI, Anthropic, Meta (запрещена в России — прим.), Google, Microsoft или любого другого конкурента OpenAI. Этот отчет руководствуется исключительно нашей приверженностью к корпоративной ответственности и исследованиям общественного интереса», — пишут авторы.
Что в отчете? В нем несколько больших разделов — про реструктуризацию, про гендиректора Сэма Альтмана, про прозрачность и безопасность, про конфликты интересов в совете директоров и высказывания сотрудников.
Ниже основные выводы, но я все равно советую вам поизучать отчет полностью.
Про риски реструктуризации
1️⃣ OpenAI хочет снять ограничение на доходность инвесторов. Изначально было ограничение максимальной доходности инвесторов в 100х. Идея была в том, что если OpenAI создаст супер искусственный интеллект, способный автоматизировать весь человеческий труд, то доходы пойдут человечеству. Сейчас хотят снять это ограничение. То есть доходы пойдут инвесторам.
2️⃣ Деятельность OpenAI контролирует некоммерческая организация — так заявляется. Но компания хочет лишить эту некоммерческую организацию полномочий. То есть совет директоров этой некоммерческой организации не будет иметь достаточных полномочий, чтобы заставить OpenAI отчитываться о своей деятельности.
3️⃣ Инвесторы оказывают давление на OpenAI, чтобы та внесла структурные изменения. Вроде как OpenAI признает, что эти изменения нужны, чтобы успокоить инвесторов. И вот это снятие ограничения на доходность как раз и является проявлением давления инвесторов.
Более подробно со схемами организационной структуры — здесь.
Про гендиректора Сэма Альтмана
Здесь есть опасения относительно методов руководства и вводящих в заблуждение заявлений Сэма Альтмана.
1️⃣ Сэма Альтмана пытались отстранить в каждом из трех крупных проектов, где он работал. В первом стартапе топ-менеджеры дважды призывали совет директоров отстранить Альтмана из-за «обманчивого и хаотичного» поведения. В Y Combinator его вынудили уйти и обвинили в прогулах и отдаче приоритета личному обогащению.
2️⃣ В OpenAI Альтман говорил, что не знал о том, что сотрудников заставляют подписывать крайне строгие соглашения о неразглашении. Но тем не менее именно он подписал документы, которые позволяют отзывать у сотрудников акции, если они не подпишут это соглашение о неразглашении.
3️⃣ Альтман неоднократно врал членам совета директоров OpenAI. Например, он заявлял, что юристы одобрили исключения из процесса безопасности, хотя этого не было. А еще заявлял, что один член совета директоров хотел отстранить другого члена совета директоров, хотя это опять же было не так.
Более подробный анализ — здесь
Про прозрачность и безопасность
Здесь есть опасения относительно процессов безопасности, прозрачности и организационной культуры в OpenAI
1️⃣ Опять вспоминают про очень строгое соглашение о неразглашении. Согласно этому соглашению, если бы сотрудники когда-либо покритиковали компанию (даже после увольнения), то могли бы потерять свои акции и опционы.
2️⃣ OpenAI ускорила процессы оценки безопасности своих AI. На этот шаг пошли вроде как из-за того, чтобы уложиться в сроки выпуска продуктов и значительно сократить время и ресурсы, выделяемые на тестирование безопасности.
3️⃣ Инсайдеры из OpenAI описали аналитикам культуру безрассудства и секретности. Сотрудники OpenAI обвинили компанию в невыполнении своих обязательств, а еще их вроде как систематически отговаривают от выражения беспокойства.
Более подробный анализ этих пунктов — здесь.
Про конфликт интересов в совете директоров
1️⃣ В совете директоров OpenAI (именно некоммерческой компании) есть независимые директора. Но исследователи сомневаются в их независимости. Дело в том, что у них есть инвестиции в компании, которые получают выгоду от партнерства с OpenAI. И это может вызвать конфликт интересов.
2️⃣ Гендиректор OpenAI Сэм Альтман преуменьшил свою финансовую заинтересованность в OpenAI. Он заявлял о том, что у него нет финансового интереса в OpenAI. Но большая часть состояния Альтмана, которое оценивается в $1,6 млрд, составляют инвестиции в партнеров OpenAI. Например, в Retro Biosciences и Rewind AI. А они как раз выигрывают от роста OpenAI.
3️⃣ OpenAI не заявляла об отводов кого-либо из совета директоров OpenAI. А именно они должны принять крайне важные решения о реструктуризации компании и ее перехода в коммерческий статус, а также о снятии ограничений на прибыль для инвесторов.
Более подробно — здесь.
И что со всем этим делать?
Авторы этого исследования посвятили отдельный раздел тому, что должна сделать OpenAI, чтобы изменить ситуацию к лучшему. В принципе, там написаны довольно очевидные вещи — оставить контроль некоммерческой структуры над деятельностью компании, больше думать о безопасности, создавать системы контроля и надзора, требовать больше ответственности с руководителей, заново расследовать деятельность Альтмана и так далее.
Вопрос в том, будет ли кто-то заставлять OpenAI и Сэма Альтмана делать это? Судя по всему, им и в нынешнем состоянии неплохо. А The Midas Project и The Tech Oversight Project, которые делали это исследование, являются просто некоммерческими организациями, которые лишь наблюдают.
The Edinorog — тот самый канал про стартапы🦄