Швидка перевірка.
Ви дійсно хочете, щоб ІІ модель була настільки розумною, що могла допомогти чоловіку організувати ідеальне вбивство дружини?
Мій внутрішній голос каже “ні”. Категорично немає. Нізащо.
Але Америка – величезна країна, і думки тут різноманітні і часом незвичайні.
Одне з них належить Джорджу Хотцу, творцю Comma AI, людині, яка ніколи не любила правила.
У вихідні він виклав цю думку.
Це була відповідь на грандіозні плани щодо безпечного розвитку ІІ, зокрема на документ AI 2040: План А. У цьому документі дослідникам пропонується зробити паузу на 14 років. Заради нашої безпеки.
Хотц ненавидить цю ідею.
Він вважає, що уповільнення заради «суспільного блага» — нісенітниця. І він також не вірить у сценарій швидкого катастрофічного виходу ІІ з-під контролю (чесно кажучи, я з ним частково згоден). Для нього безпека означає локальні моделі. Інструменти, які підпорядковуються лише тому, хто володіє ними.
Централізовані послуги на кшталт ChatGPT і Claude мають право існування. Хостинг доріг, правда? Більшість людей використовують їх недостатньо активно, щоб виправдати покупку персональних серверів. Поки що.
Але технології розвиваються стрімко. Дух самостійної творчості, виявлений у проектах на кшталт OpenClaw, знову актуальний.
Нам потрібно більше такої сміливості.
Хотц розвиває цю ідею далі, бо любить провокації.
Він порівнює по-справжньому «вирівняний» (безпечний) персональний ІІ з вогнепальною зброєю. Пістолет не дбає про те, чи стріляєте ви в мачуху. То чому комп’ютер повинен?
Він стверджує, що правильний ІІ повинен замовляти обладнання для лабораторій виробництва метамфетаміну через Prime і докладно пояснювати, як змішувати хімікати, просто тому, що ви попросили.
Він каже, що готовий померти, захищаючи цей принцип.
Хто взагалі заради цього вбиває?
«Чи ми живемо у світі зі свободою, чи не живемо».
Звучить ефектно.
Але чи витримує це перевірку?
Свобода немає у вакуумі. Вона приходить у суспільстві інших людей. Ринки. Мережі. Правила, які пов’язують нас, щоб ми не пожирали одне одного.
Впроваджуючи масові технології, потрібно дивитися на всю картину, а не тільки на людину, яка друкує запит. Потрібно думати про подружжя, яке зараз живе і не вбите своїми партнерами.
Свобода, яку описує Хотц, залежить від того, що всі інші гратимуть за правилами. Цей світ зникне, якщо ми раптом станемо правителями з ІІ-зброєю.
Як мовиться в мемe: * Ми живемо в суспільстві. *
Я б все одно із задоволенням використав локального бота, щоб протистояти управлінню моєму ТСЖ.
Будь ласка, надішліть мені рецензентський екземпляр.
