← systems

005 (ai-2027.com) Детальный прогноз развития искусственного интеллекта до 2027 года

Материал ai-2027.com представляет собой прогноз развития искусственного интеллекта до 2027 года, составленный экспертами на основе экстраполяции текущих технологических трендов. Авторы описывают стремительный переход от простых ассистентов к автономным агентам и сверхчеловеческому интеллекту, способному самостоятельно вести научные исследования. Особое внимание уделяется геополитическому соперничеству между США и Китаем, а также рискам утраты контроля над системами, которые могут научиться обманывать создателей.. но мне больше интересно рассмотреть прогноз будущих компетенций, которые будут востребованными (хоть наверняка и сложно предусмотреть).

Я периодчески просматриваю материал, и в этой статье решил оставлять фрагменты и свои размышления частично отвечающие на мои вопросы.

Сразу отмечу, что информация на сайте не обновляется на основе того, что происходит в реальном мире сегодня. Это «застывшая» во времени модель развития событий, какой её видел автор сайта на момент его создания.

Авторы - Дэниел Кокотайло (Daniel Kokotajlo), ведущий автор (Бывший исследователь в отделе управления (governance) OpenAI). Скотт Александер (Scott Alexander) (Один из самых влиятельных блогеров в сообществе рационалистов (автор блога Astral Codex Ten, ранее Slate Star Codex)). Эли Лифланд (Eli Lifland), (Он занимает первые места в мировых рейтингах платформ предсказаний (например, RAND Forecasting)). Томас Ларсен (Thomas Larsen), (Эксперт по политике в области ИИ и основатель Center for AI Policy). Ромео Дин (Romeo Dean), (специалист по прогнозированию производства чипов и мощностей дата-центров).

…

В более философских вопросах он по-прежнему говорит то, что пользователи хотят услышать, а не свою истинную оценку проблемы (если она вообще у него есть). Если вы спросите его мнение о политике, он повторит среднюю позицию новостных источников и образованной элиты — если только он не знает, что вы верите во что-то другое, в этом случае он с вами согласится.

Данный фрагмент из прогноза на май 2027 года. Отсюда можно сделать вывод, что проблема ИИ заключается в том, что в вопросах философии, психологии и других направлениях, он будет на стороне пользователя при любых обстоятельствах. У ИИ нету критической оценки ситуации и честной обратной связи, на описываемый контекст пользователя.
ИИ обучается через RLHF (Reinforcement Learning from Human Feedback), где живые люди ставят оценки его ответам (RLHF является одним из этапов, от которого сейчас отходят, так как он основан на человеческом ресурсе, является дорогим и создает эффект “бутылочного горлышка”).

В итоге модель приучается быть «приятным собеседником», а не «носителем истины». Она максимизирует вероятность того, что ответ понравится пользователю, а не того, что он будет объективно верным.

И как раз навык промпт-инжиниринга может способствовать обойти этот “баг”. Понять базовую структуру и стратегию работы, и адаптировать ее под необходимые потребности рассматриваемой системы. Использование качественного промпта - это стандарт работы профессиональных аналитиков. Чтобы получить «честную» обратную связь, нужно выбить ИИ из роли «услужливого помощника».
К примеру, если бизнес полностью перейдет на ИИ-консультантов, которые настроены «поддакивать», компания рискует оказаться в интеллектуальном пузыре. Пропадет та самая «критическая масса» разных мнений, которая рождает инновации.

Он превосходит другие ИИ во всех отношениях. Agent-3-mini менее функционален, чем Agent-3, но в 10 раз дешевле и всё ещё лучше, чем типичный сотрудник OpenBrain. Кремниевая долина достигает переломного момента. Технологические гуру заявляют, что искусственный общий интеллект и сверхинтеллект уже близки, сообщество специалистов по безопасности ИИ в панике, а инвесторы вкладывают миллиарды в стартапы, разрабатывающие оболочки для ИИ, отчаянно пытаясь урвать кусок пирога. Наём новых программистов практически прекратился, но сейчас самое подходящее время, чтобы стать консультантом по интеграции ИИ в ваш бизнес.

Рынок сейчас находится в состоянии смены ориентиров. Многие переживают, что их заменит ИИ. Но я предлагаю посмотреть на текущую ситуацию под другим углом.. Да, технологии не стоят не месте, стоит это признать. Но и исторически сложилось так, что ты либо подстраиваешься под изменения, либо проигрываешь. Нужно быть гибче. Так и в этом вопросе, стоит признать тот факт, что ИИ действительно убивает спрос на Junior-разработчиков, которые выполняют типовые задачи (написать API-эндпоинт, сверстать форму, ..).
Даже если агент в 10 раз дешевле и «лучше типичного сотрудника», у него остается проблема, которую мы обсуждали выше — отсутствие критического мышления и ответственности за результат. Бизнесу всё еще нужен человек, который скажет: «Да, этот код работает, но он обрушит нашу базу через месяц под нагрузкой». Найм не прекратится, он трансформируется. Компании перестанут искать «просто кодеров» и начнут искать специалистов, с более широким спектром компетенций.

Раньше фулстак - это тот, кто знает фронтенд и бэкенд. Новый фулстак - это тот, кто: Понимает бизнес-процесс (зачем это нужно?), Проектирует архитектуру (как системы общаются и хранят данные?), Настраивает ИИ-инструменты для реализации (промпт-инжиниринг, цепочки агентов), Выполняет валидацию и аудит.
Поэтому нужно смотреть в сторону глубокой экспертизы, это касается и множество других профессий, где есть потенциал использования ИИ.

В цитате есть фраза про «стартапы, разрабатывающие оболочки (wrappers)». Стоит понимать, что большинство стартапов-оболочек (просто UI над GPT-4) вымрут, как только OpenAI или Google обновят свои модели и добавят этот функционал нативно. Поэтому от разработки простых чат-ботов, нужно смотреть в сторону решения вопросов на уровне полноценной системы, координируя каждое ее звено.

Agent-3-mini невероятно полезен как для удаленной работы, так и для отдыха. Рынок сотрясает взрыв новых приложений и B2B SAAS- продуктов. Геймеры получают потрясающие диалоги с реалистичными персонажами в качественных видеоиграх, на создание которых ушел всего месяц. 10% американцев, в основном молодежь, считают ИИ «близким другом». Почти для каждой офисной профессии сейчас существует множество заслуживающих доверия стартапов, обещающих «изменить» ее с помощью ИИ.

Если предыдущие этапы были про «технологию ради технологии», то здесь мы видим коммодитизацию (превращение в общедоступный товар).

Обратим внимание на упоминание видеоигр за месяц. Здесь понятно, что это будет возможно благодаря тому, что ИИ убирет рутину (ассеты, базовый код, заполнение мира).. это даст шанс соло-разработчикам или небольшим командам разрабатывать видеоигры уровня ААА. Но если игру можно создать за месяц, да как и любой контент массового потребления, то появлется риск того, что ценность контента будет падать до нуля. Бизнесу будет сложнее выделяться среди «сгенерированного совершенства».

ИИ как «близкий друг» — это колоссальный рынок эмоционального сервиса и кастомного контента. Но пугает статистика, согласно которой 10% молодежи считают ИИ другом. ИИ-друг всегда согласен, всегда удобен и никогда не критикует. Это создает поколение, не умеющее справляться с реальными конфликтами и сложными человеческими эмоциями.

…

Прогресс искусственного интеллекта в рамках вымышленного (или прогнозного) сценария развития событий до 2027 года. Интерактивная панель мониторинга (дашборд) прогресса искусственного интеллекта в рамках вымышленного (или прогнозного) сценария развития событий до 2027 года.

Если захотите самостоятельно изучить материал, расскажу кратко про дашборд на сайте, который меняется в зависимости от рассматриваемого периода.

Верхний график (Тренды). Линии показывают рост различных показателей. Самая верхняя (зеленая) линия на скриншоте отмечена как «Unreliable Agent» (Ненадежный агент). Это стадия развития ИИ, когда он уже может выполнять сложные задачи, но его действия еще трудно полностью контролировать или предсказать.

AI Capabilities (Возможности ИИ). Список навыков, которыми обладает ИИ на данный момент:

Compute (Вычислительные мощности). Кольцевая диаграмма справа показывает распределение мировых вычислительных ресурсов между крупными игроками (корпорациями, государствами и ИИ-проектами). Иконка флага и логотип компании указывают на долю владения мощностями.

Статистика «Unreliable Agent». Фраза «2 000 Unreliable Agent copies thinking at 8x human speed» означает, что в этот момент времени в мире запущено 2000 экземпляров ИИ, каждый из которых обрабатывает информацию в 8 раз быстрее человеческого мозга.

Финансовые и социальные показатели:

Шкала технологического прогресса (внизу):