Генеральный директор OpenAI, Сэм Альтман, уверяет нас, что человечество находится на пороге создания искусственного интеллекта, способного автоматизировать большинство видов человеческой деятельности. Если это действительно так, то общество не только заслуживает, но и должно требовать понимания и участия в обсуждении механизмов, стоящих за этой поразительной и потенциально дестабилизирующей технологией.
Именно этот принцип служит руководящей звездой «Файлов OpenAI» — архивного проекта, инициированного некоммерческими организациями «Мидас» и «Технологии отслеживания». Данная коллекция представляет собой «сборник задокументированных проблем с методами управления, честностью руководства и организационной культурой OpenAI». Помимо повышения осведомленности, цель Файлов заключается в том, чтобы предложить ясный путь вперед для OpenAI и других лидеров в области ИИ, акцентируя внимание на этическом управлении и общей выгоде для общества.
Качество управления и прозрачность, необходимые для ведения столь важной миссии, должны отражать масштаб тех вызовов, с которыми мы сталкиваемся. «Компании, ведущие гонку за AGI, обязаны следовать исключительно высоким стандартам и проявлять самоотверженность в их соблюдении», — подчеркивается в документе.
Однако до сих пор эта гонка за господством в сфере ИИ привела к массе проблем, порожденных мышлением «роста любой ценой». Это приводит к тому, что компании, такие как OpenAI, стремятся к сбору контента без согласия авторов для целей обучения и развертыванию колоссальных центров обработки данных, что, в свою очередь, вызывает отключения электроэнергии и увеличение затрат на электроэнергию для местных жителей. Стремление к быстрой коммерциализации толкает организации выводить продукты на рынок, прежде чем будут приняты жизненно важные меры безопасности, особенно на фоне растущего давления со стороны инвесторов, стремящихся к быстрой прибыли.
Это давление со стороны инвесторов привело к изменению внутренней структуры OpenAI, что вызывает вопросы относительно изначальных задатков этой некоммерческой организации, которая когда-то привлекла средства с учетом максимума в 100 раз от первоначальных инвестиций. По всей видимости, компания теперь признавала необходимость ослабления этого ограничения, чтобы удовлетворить запросы инвесторов, оказывающих влияние на стратегические реформы.
В «Файлах» поднимаются важные вопросы, включая спешные процессы оценки безопасности и преобладающую «культуру безрассудства» внутри OpenAI, а также потенциальные конфликты интересов среди членов совета директоров и самого Альтмана. Документы содержат информацию о стартапах, находящихся в инвестиционном портфеле Альтмана, и их пересечении с бизнес-интересами OpenAI, что также вызывает обоснованные сомнения в прозрачности принятия решений.
Кроме того, в материалах поднимается вопрос о честности Альтмана, ставший предметом обсуждений после инцидента 2023 года, когда ряд старших сотрудников попытались отстранить его от должности из-за «обманчивого и хаотичного поведения». «Я не думаю, что Сэм — тот человек, который должен управлять запуском AGI», — якобы заметил тогда Илья Суцкевер, бывший главный научный сотрудник OpenAI.
Эти вопросы и проблемы, касающиеся OpenAI, напоминают нам о том, что колоссальная власть сосредоточена в руках немногих, сопровождаемая минимальной прозрачностью и ограниченным контролем. «Файлы» предоставляют уникальную возможность заглянуть в эту скрытую реальность и сосредоточиться на обсуждении актуальных вопросов, касающихся независимости от государственной власти и этики в технологиях.