Быстрая проверка.
Вы действительно хотите, чтобы ИИ-модель была настолько умной, что могла помочь мужу организовать идеальное убийство жены?
Мой внутренний голос говорит «нет». Категорически нет. Ни за что.
Но Америка — огромная страна, и мнения здесь разнообразны и порой необычны.
Одно из них принадлежит Джорджу Хотцу, создателю Comma AI, человеку, который никогда не любил правила.
На выходных он выложил эту мысль.
Это был ответ на грандиозные планы по безопасному развитию ИИ, в частности на документ AI 2040: План А. В этом документе исследователям предлагается сделать паузу на 14 лет. Ради нашей безопасности.
Хотц ненавидит эту идею.
Он считает, что замедление ради «общественного блага» — бессмыслица. И он также не верит в сценарий быстрого катастрофического выхода ИИ из-под контроля (честно говоря, я с ним частично согласен). Для него безопасность означает локальные модели. Инструменты, которые подчиняются только тому, кто ими владеет.
Централизованные сервисы вроде ChatGPT и Claude имеют право на существование. Хостинг дорог, верно? Большинство людей используют их недостаточно активно, чтобы оправдать покупку персональных серверов. Пока что.
Но технологии развиваются стремительно. Дух самостоятельного творчества, проявленный в проектах вроде OpenClaw, снова актуален.
Нам нужно больше такой смелости.
Хотц развивает эту идею дальше, потому что любит провокации.
Он сравнивает по-настоящему «выровненный» (безопасный) персональный ИИ с огнестрельным оружием. Пистолет не заботится о том, стреляете ли вы в мачеху. Так почему компьютер должен?
Он утверждает, что правильный ИИ должен заказывать оборудование для лабораторий по производству метамфетамина через Prime и подробно объяснять, как смешивать химикаты, просто потому, что вы попросили.
Он говорит, что готов умереть, защищая этот принцип.
Кто вообще ради этого убивает?
«Или мы живем в мире со свободой, или не живем».
Звучит эффектно.
Но выдерживает ли это проверку?
Свобода не существует в вакууме. Она приходит в обществе других людей. Рынки. Сети. Правила, которые связывают нас, чтобы мы не пожирали друг друга.
Внедряя массовые технологии, нужно смотреть на всю картину, а не только на человека, печатающего запрос. Нужно думать о супругах, которые сейчас живы и не убиты своими партнерами.
Свобода, которую описывает Хотц, зависит от того, что все остальные будут играть по правилам. Этот мир исчезнет, если мы все вдруг станем правителями с ИИ-оружием.
Как говорится в мемe: мы живем в обществе.
Я бы все равно с удовольствием использовал локального бота, чтобы противостоять управлению моему ТСЖ.
Пожалуйста, отправьте мне рецензентский экземпляр.
