Pracownicy Amazonu podsłuchują „rozmowy” z Alexą?

Agencja prasowa Bloomberg donosi, że specjalne zespoły zatrudnione przez firmę Amazon zajmują się przesłuchiwaniem i analizowaniem fragmentów konwersacji nagranych przez inteligentną asystentkę Alexa.

Rozmowy przy głośnikach Echo mogą nie być tak prywatne, jak nam się zdaje. Źródło: Amazon.

W SKRÓCIE:

zespoły zatrudnione przez Amazon podsłuchują rozmowy, które użytkownicy prowadzą z systemami Alexa;
w konwersacjach czasem pojawiają się prywatne dane, np. detale dotyczące kont bankowych;
firma zapewnia, że stosuje najwyższe standardy bezpieczeństwa;
na nagraniach występują także sytuacje noszące znamiona przestępstwa – według niektórych doniesień, koncern nie raportuje ich odpowiednim służbom.

Jak donosi agencja Bloomberg, firma Amazon podsłuchuje klientów, którzy nabyli głośniki Echo wyposażone w inteligentną asystentkę Alexa. Koncern podobno zatrudnił w tym celu tysiące pracowników – zespoły zlokalizowane na całym świecie analizują konwersacje z AI, by poprawić sam program i jakość świadczonych przez niego usług. Rozmowy są przepisywane, adnotowane (okraszane komentarzem), a następnie oddawane do ponownego przesłuchania Aleksie. Celem jest przede wszystkim wyeliminowanie problemów ze zrozumieniem mowy.

Traktujemy poważnie bezpieczeństwo i prywatność danych osobowych naszych klientów. Adnotujemy tylko bardzo małą próbkę nagrań głosowych Alexy, aby poprawić doświadczenia klientów. Informacje te pomagają nam w doskonaleniu naszych systemów rozpoznawania mowy i naturalnego jej rozumienia, dzięki czemu Alexa może lepiej wykonywać Twoje polecenia, a my mamy pewność, że usługa działa dobrze dla wszystkich - poinformował rzecznik firmy Amazon w oświadczeniu przesłanym Bloombergowi e-mailem.

Istnienie samego procesu doskonalenia aplikacji nie jest tajemnicą, jednak rola, którą odgrywa w nim człowiek, może być zaskoczeniem dla niektórych osób (w oficjalnym FAQ zamieszczono jedynie informację, że doświadczenia użytkowników są wykorzystywane w celu poprawienia funkcjonalności). Warto przypomnieć, że jeśli zawierzyć narracji (i materiałom marketingowym) Amazonu, Alexa jest programem funkcjonującym w chmurze i samouczącym się – wygląda jednak na to, że druga z cech jest tylko częściowo prawdziwa. Algorytm, owszem, rozwija swoje możliwości, ale wspierają go w tym legiony ludzkich „korepetytorów”.

Mamy ścisłe zabezpieczenia techniczne i operacyjne oraz politykę zerowej tolerancji dla nadużywania naszego systemu. Pracownicy nie mają bezpośredniego dostępu do informacji, które mogą zidentyfikować osobę lub konto, z którym mają kontakt w czasie pracy. Wszystkie informacje są traktowane z zachowaniem wysokiej poufności i używamy uwierzytelniania wieloczynnikowego w celu ograniczenia dostępu, a także szyfrowania usług i audytów naszego środowiska kontrolnego w celu zapewnienia maksymalnej ochrony – mówi rzecznik Amazonu.

Część z pracowników, do których dotarł Bloomberg, pracuje w biurze Amazonu w Bukareszcie. Fotografia: Irina Vilcu / Bloomberg.

A jak to wygląda w praktyce? Agencja przesłuchała siedmiu członków omawianych zespołów. Warto odnotować, że składają się one zarówno z etatowych pracowników firmy Amazon, jak i ludzi zatrudnionych na kontraktach. Większość z nich pracuje po dziewięć godzin dziennie, przesłuchując nawet do tysiąca plików audio w czasie jednej zmiany. Rozmówcy przyznają, że w niektórych przypadkach trafiali na rzeczy, które można uznać za prywatne – np. prysznicowe popisy wokalne czy... konwersacje, w których padały nazwiska lub detale powiązane z kontem bankowym. Zdarzało się im też regularnie dzielić „zabawnymi” materiałami z innymi członkami zespołu za pośrednictwem wewnętrznego czatu. Audytorzy mają również dostęp do imion (bez nazwisk) oraz numerów przypisanych do danego konta użytkownika.

Co więcej, od czasu do czasu podsłuchujący trafiają na nagrania sugerujące możliwość popełnienia przestępstwa – co nie jest niczym dziwnym, jeśli wziąć pod uwagę skalę projektu i podejście ludzi do systemów takich jak Alexa. Amazon posiada konkretne procedury przygotowane specjalnie z myślą o takich okazjach… kilku pracowników rumuńskiego biura firmy przyznaje jednak, że po wskazaniu problematycznego nagrania informowano ich jedynie, iż interweniowanie nie jest rolą koncernu.