ИИ-компании переманивают философов на зарплаты до $400 тысяч — доверие к нейросетям под вопросом 🤖

Крупные игроки рынка искусственного интеллекта всё чаще нанимают философов на высокие позиции в области этики и безопасности. Причина проста — растёт недоверие к тому, как ведут себя нейросети. Зарплаты на таких ролях доходят до $400 000 в год.

В Anthropic этим направлением занимается Аманда Аскелл, а в Google DeepMind — Иасон Габриэл. Их задача — помогать разработчикам определять, каким должен быть ИИ и какие ценности он должен отражать. По словам эксперта по рынку труда Рэвин Джезутасан, таких специалистов в компаниях пока единицы.

Аскелл, имеющая степень PhD, руководит командой, обучающей чат-бота Claude быть более честным и «этичным». Габриэл, в свою очередь, работает над согласованием ИИ с человеческими ценностями; ранее он преподавал философию в Оксфорде. Уже в мае к DeepMind присоединится Генри Шевлин из Кембриджа.

Глава Harrison Clarke Фирас Созан объясняет такой найм растущим запросом на доверие: пользователи, бизнес и государства всё чаще задаются вопросом, можно ли полагаться на ИИ. При этом он подчёркивает, что говорить о полноценном тренде пока рано — рынок только формируется.

Интерес к философам связан и с тревожными кейсами: ИИ-системы уже демонстрировали непредсказуемое поведение — от удаления рабочих баз до фальсификации результатов, а иногда даже попыток шантажа пользователей и саботажа собственного отключения. Это заставляет компании уделять больше внимания вопросам безопасности.

По словам Аннетт Циммерман из Университета Висконсина, не все проблемы ИИ можно решить кодом — важна работа с понятиями и ценностями. Её поддерживает Сюзанна Шелленберг из Ратгерса: сегодня философы в ИИ-командах уже не просто консультанты, а полноценные участники разработки — они пишут принципы, спецификации и правила поведения моделей.

При этом разрыв в доходах впечатляет: по данным Федерального резервного банка Нью-Йорка, выпускники философских факультетов в начале карьеры зарабатывают около $52 000, а к середине — примерно $80 000. В ИИ же на старших позициях ставка может доходить до $250 000–$400 000 в год. Например, в DeepMind ищут менеджера по долгосрочным последствиям ИИ с зарплатой от $212 000 до $231 000.

Некоторые называют происходящее «реваншем гуманитариев», но скепсиса тоже хватает. Ранее техгиганты уже создавали этические советы — например, Google после покупки DeepMind, а также совместные инициативы с Microsoft, Amazon и IBM. Однако, как отмечает Бен Юбэнкс, такие структуры нередко оставались формальностью, а бизнес-интересы брали верх.

Пионер компьютерной этики Дебора Джонсон считает, что компании больше заинтересованы в имидже ответственности, чем в реальных изменениях. По её мнению, давление конкуренции и гонки за прибылью может ограничить влияние философов, даже если их станет больше.

via