Dlaczego aktualizacja Siri mnie przeraża

7

W poniedziałek wszystko kręciło się wokół Siri. Główna prezentacja Apple na WWDC 2024 była w całości poświęcona radykalnej aktualizacji ich asystenta głosowego wykorzystującego sztuczną inteligencję.

Teraz Siri to nie tylko narzędzie do wyszukiwania pizzerii czy ustawiania timera. Może przejrzeć Twoją korespondencję i dowiedzieć się, kto wysłał to najważniejsze zdjęcie. Sprawdza, czy Twój przyjaciel mieszka w pobliżu. Koniec z przewijaniem kanału. Po prostu zapytaj. Może nawet zmieniać hasła do niektórych kont.

Przeczytaj także: Apple AI otrzymało potężną aktualizację na WWDC. Cały punkt

To uczucie jest podobne do oddania kluczy do domu osobie, której intencje i wiarygodność nie zostały do końca zweryfikowane.

Siri ma obecnie trudności z zadaniami wieloetapowymi. Potrzebuje pomocy na każdym kroku. Nowa Siri? Aby wykonać zadanie, samodzielnie przeszuka zdjęcia w wiadomościach i zakładkach przeglądarki. Apple pokazało demo planowania imprezy związanej z Pucharem Świata: Siri znalazła pomysł na deser w starym tekście, stworzyła menu i zaprosiła wszystkich gości. Jedno kliknięcie. Działa to na iPhonie, iPadzie, komputerze Mac i Apple Watch.

Brzmi skutecznie, prawda?

Może.

Ale czy naprawdę chcesz zapewnić taki poziom dostępu?

Kocham Apple. Kupiłem prawdopodobnie wszystkie ich produkty od 1997 roku. Ale nie ufam takiemu poziomowi autonomii. Wzmocnienie sztucznej inteligencji w celu wykonywania złożonych przepływów pracy od początku do końca wydaje mi się grą w ruletkę. Co się stanie, jeśli pomyli datę? Albo z hasłem?

Poza tym pozostaje kwestia bezpieczeństwa. Nawet przy rygorystycznych gwarancjach Apple dotyczących prywatności zdarzają się naruszenia bezpieczeństwa danych. Hakerzy znajdują luki w zabezpieczeniach. Kto poniesie odpowiedzialność, jeśli sztuczna inteligencja Siri automatycznie zaloguje się do niewłaściwej usługi?

Używam Siri tylko do podstawowych rzeczy:

  • Nawigacja.
  • „Powiedz Markowi, że spóźniłem się 5 minut”.
  • Budziki.
  • Zarządzanie Spotify.

Nie przeszkadza mi to. Może nawet pozwolę jej zanotować krótkie zaproszenie w kalendarzu. Działa szybko, a efekt zazwyczaj jest taki jak sam bym napisał. Czuję się bezpiecznie, bo stawka tutaj jest niska.

Dając Siri swobodę działania, rzadziej dotykam telefonu.

Ale tracę też kontrolę.

Ręczne wyszukiwanie ma swój dziwny urok. Znajdowanie zdjęcia mojego syna z okazji ukończenia szkoły podczas przewijania wiadomości w celu potwierdzenia zamówienia na przekąskę na wieczór filmowy. Łączy mnie z danymi. AI zamienia to w wyciskanie na sucho. Tracę kontekst. Tracę kontakt.

Chatboty AI słyną ze swojego zamiłowania do fikcji.

Mają halucynacje. Daty są błędne. Ignorują instrukcje. Wykonując pracę samodzielnie, kontroluję błędy. Wolę ten opór. Zmusza mnie to do uważności na chwilę. Niech algorytm przejrzy korespondencję dotyczącą sposobu odbioru dziecka? Nie, dziękuję. Obietnice bezpieczeństwa nie eliminują uczucia dyskomfortu.

Sceptycyzm jest prawdziwy.

Sondaż NBC przeprowadzony w marcu wykazał, że sztuczna inteligencja jest jednym z najbardziej niepopularnych tematów w Stanach Zjednoczonych. W zeszłym roku CNET przeprowadził ankietę wśród użytkowników Apple. Tylko 12% jest skłonnych uaktualnić swoje telefony specjalnie w celu ulepszenia sztucznej inteligencji.

Większość z nas potrzebuje telefonów służbowych.

Giganci technologiczni nadal narzucają nam te funkcje. Aktualizacje są uwzględniane i odrzucenie ich jest trudne lub niemożliwe. Sprzęt i oprogramowanie łączą się w jeden płynny pakiet. Siri AI nie była tylko jedną z funkcji tegorocznego wydarzenia. To był jedyny temat na scenie. Reszta aktualizacji poszła na marne.

Nie pojadę tym pociągiem.

Będę w dalszym ciągu ściśle ograniczać uprawnienia dostępu do danych. Nie chcę, żeby Siri grzebała w moim kalendarzu. Nie w moim e-mailu. Nie do kontaktów.

Bot jest prawdopodobnie szybszy.

Ale śpię lepiej, wiedząc, że sam naciskam przyciski. Nawet jeśli zajmie to minutę dłużej.