Szybkie sprawdzenie.
Czy naprawdę chcesz, aby model sztucznej inteligencji był tak inteligentny, że mógł pomóc mężowi zaaranżować doskonałe morderstwo żony?
Mój wewnętrzny głos mówi nie. Absolutnie nie. Nie ma mowy.
Ale Ameryka to ogromny kraj, a opinie tutaj są zróżnicowane, a czasem niezwykłe.
Jedna z nich należy do George’a Hotza, twórcy Comma AI, człowieka, który nigdy nie lubił zasad.
Opublikował ten pomysł w weekend.
Była to odpowiedź na ambitne plany bezpiecznego rozwoju AI, w szczególności na dokument AI 2040: Plan A. Dokument ten sugeruje, że badacze robią przerwę na 14 lat. Dla naszego bezpieczeństwa.
Hotzowi nie podoba się ten pomysł.
Uważa, że zwalnianie tempa dla „dobra publicznego” to nonsens. Nie wierzy też w scenariusz gwałtownego, katastrofalnego w skutkach wymknięcia się spod kontroli sztucznej inteligencji (szczerze mówiąc, częściowo się z nim zgadzam). Dla niego bezpieczeństwo oznacza lokalne wzorce. Narzędzia, które są posłuszne tylko temu, kto je posiada.
Scentralizowane usługi, takie jak ChatGPT i Claude, mają prawo istnieć. Hosting jest drogi, prawda? Większość ludzi nie używa ich na tyle często, aby uzasadniać zakup serwerów osobistych. Na razie.
Ale technologia rozwija się szybko. Duch „zrób to sam” widoczny w projektach takich jak OpenClaw powraca w życie.
Przydałoby się nam więcej tego rodzaju odwagi.
Hotz idzie dalej z tym pomysłem, ponieważ uwielbia prowokacje.
Porównuje naprawdę „dopasowaną” (bezpieczną) osobistą sztuczną inteligencję do broni palnej. Pistolet nie dba o to, czy zastrzelisz swoją macochę. Dlaczego więc komputer?
Twierdzi, że właściwa sztuczna inteligencja powinna zamówić sprzęt do laboratorium metamfetaminy za pośrednictwem Prime i szczegółowo wyjaśnić, jak mieszać chemikalia, po prostu dlatego, że o to poprosiłeś.
Mówi, że jest gotowy umrzeć w obronie tej zasady.
Kto w ogóle za to zabija?
„Albo żyjemy w świecie wolności, albo nie.”
Brzmi imponująco.
Ale czy wytrzymuje to badanie?
Wolność nie istnieje w próżni. Przychodzi w towarzystwie innych osób. Rynki. Sieci. Zasady, które nas wiążą, abyśmy się nie pożerali.
Wprowadzając technologie masowe, trzeba patrzeć całościowo, a nie tylko na osobę piszącą zapytanie. Musimy myśleć o współmałżonkach, którzy teraz żyją i nie zostali zabici przez swoich partnerów.
Wolność, którą opisuje Hotz, zależy od tego, czy wszyscy inni przestrzegają zasad. Ten świat zniknie, jeśli wszyscy nagle staniemy się władcami wyposażonymi w broń AI.
Jak mówi mem: żyjemy w społeczeństwie.
Nadal chętnie korzystałbym z lokalnego bota, aby przeciwdziałać mojemu zarządzaniu HOA.
Proszę o przesłanie mi egzemplarza recenzyjnego.
