Rychlá kontrola.
Opravdu chcete, aby byl model umělé inteligence tak chytrý, aby pomohl manželovi zorganizovat dokonalou vraždu jeho ženy?
Můj vnitřní hlas říká ne. rozhodně ne. V žádném případě.
Amerika je ale obrovská země a názory jsou zde různé a někdy neobvyklé.
Jeden z nich patří George Hotzovi, tvůrci Comma AI, muži, který nikdy neměl rád pravidla.
Tento nápad zveřejnil o víkendu.
Šlo o reakci na velkolepé plány na bezpečný rozvoj AI, zejména na dokument AI 2040: Plán A. Tento dokument navrhuje, aby se výzkumníci pozastavili na 14 let. Pro naši bezpečnost.
Hotz tento nápad nenávidí.
Domnívá se, že zpomalení pro „veřejné dobro“ je nesmysl. A také nevěří scénáři rychlé, katastrofické AI, která se vymkne kontrole (abych byl upřímný, částečně s ním souhlasím). Bezpečnost pro něj znamená místní modely. Nástroje, které poslouchají pouze toho, kdo je vlastní.
Centralizované služby jako ChatGPT a Claude mají právo na existenci. Hosting je drahý, že? Většina lidí je nepoužívá natolik extenzivně, aby ospravedlnila nákup osobních serverů. Zatím.
Technologie se ale rychle vyvíjí. Kutilský duch viděný v projektech jako OpenClaw je zpět v platnosti.
Potřebujeme více takové odvahy.
Hotz posouvá tento nápad dále, protože miluje provokace.
Skutečně „sladěnou“ (bezpečnou) osobní umělou inteligenci přirovnává ke střelným zbraním. Pistoli je jedno, jestli zastřelíš nevlastní mámu. Proč by tedy měl počítač?
Tvrdí, že správná umělá inteligence by si měla přes Prime objednat vybavení do laboratoře na bázi pervitinu a podrobně vysvětlit, jak smíchat chemikálie, jednoduše proto, že jste se zeptali.
Říká, že je ochoten zemřít při obraně tohoto principu.
Kdo kvůli tomu vůbec zabíjí?
“Buď žijeme ve světě se svobodou, nebo ne.”
Zní to působivě.
Obstojí ale při kontrole?
Svoboda neexistuje ve vzduchoprázdnu. Přichází ve společnosti dalších lidí. trhy. sítě. Pravidla, která nás svazují, abychom se navzájem nesežrali.
Při zavádění hromadných technologií se musíte dívat na celý obrázek, a ne pouze na osobu, která zadává požadavek. Musíme myslet na manžele, kteří jsou nyní naživu a nezabili je jejich partneři.
Svoboda, kterou Hotz popisuje, závisí na tom, zda všichni ostatní hrají podle pravidel. Tento svět zmizí, pokud se všichni najednou staneme vládci se zbraněmi AI.
Jak říká meme: žijeme ve společnosti.
Stále bych rád použil místního bota, abych čelil mému vedení HOA.
Pošlete mi prosím kopii recenze.
