Dlaczego to zrobiłem? Dlaczego zapłaciłem 8 euro za 50 oszałamiających, impresjonistycznych, abstrakcyjnych portretów? Czy jestem aż tak narcystyczny? Jesteśmy wszyscy?
Nasz Instagram i inne kanały społecznościowe są obecnie zalewane renderingami naszych twarzy w wysokiej rozdzielczości i różnymi obscenicznymi, czyli magicznymi awatarami. Wszystkie pochodzą dzięki uprzejmości aplikacji Lensa, silnika generowania obrazów AI, który tworzy dzikie i często kapryśne renderingi dowolnego obrazu, który przesyłamy.
Istnieją inne podobne platformy, takie jak Reface, które pozwalają umieścić swoją twarz w słynnych klipach filmowych. Wszyscy to robili przez jakiś czas. Zostałem Tomem Cruisem (otwiera się w nowej karcie).
Aplikacja była darmowa (z mnóstwem reklam, jeśli dobrze pamiętam) i ostatecznie wszyscy zdecydowaliśmy, że może przesyłanie naszych zdjęć do twórcy aplikacji Rando nie było dobrym pomysłem.
Lensa wypełnia tę przestrzeń, ale produktem, który prawie wymaga za to zapłaty, najpierw z silną sprzedażą drogich opłat abonamentowych, a następnie bardziej nieformalnie z ofertą płatnych pakietów obrazów AI.
Zdumiewa mnie, ile osób płaci za trawienie ich obrazów, a następnie wypluwanie ich jako niesamowite dzieła sztuki AI. FOMO jest tu tak silne, że wszyscy (nawet ten teraz zawstydzony reporter) ulegają. Mój dorosły syn wydał prawie 15 euro na zestaw zdjęć swojej dziewczyny.
nie jestem dumny
Dlaczego to zrobiłem? Dwa powody. Byłem zmęczony oglądaniem awatarów Lensa Magic innych osób na moim kanale, a także potrzebowałem czegoś nowego na Instagramie. Jestem trochę taki z moimi kanałami społecznościowymi, zawsze staram się, aby fajka była pełna z powodów, których trudno mi tutaj wyjaśnić.
Dodanie moich obrazów AI do rosnącego legionu majestatycznych portretów generowanych przez Lensę na Instagramie nie było trudne. Aplikacja jest dostępna bezpłatnie na iOS i Androida. Otwierając ją, otrzymasz ofertę subskrypcji o wartości 49.99 EUR, którą możesz „anulować w dowolnym momencie”. Osobiście nienawidzę takich aplikacji, które drażnią Cię niesamowicie fajną funkcją, ale wymagają wygórowanych płatności gotówkowych z góry (mogę też być tani).
Podobnie jak wiele innych aplikacji, podoferta jest swego rodzaju przykrywką. Jeśli to zignorujesz, aplikacja natychmiast przeniesie Cię do sekcji pay-per-play, w której możesz kupić od 50 (7.99 €) do 100 (14.99 €) magicznych awatarów wygenerowanych przez sztuczną inteligencję bez żadnej subskrypcji.
Nie pamiętam już, kiedy ostatni raz zapłaciłam 8 euro za przywilej korzystania z jednej funkcji aplikacji, ale to był wołanie tych pięknych portretów. Racjonalizowałam koszt w głowie: „No dalej, zapłaciłbyś tyle za dwa pączki Krispy Kreme i wodę”, które kupiłem w zeszłym tygodniu.
Następnie aplikacja poprosi Cię o przesłanie od 10 do 20 zdjęć przedstawiających Cię w różnych pozach i z różnorodnym wyrazem twarzy. Postanowiłem zajrzeć do folderu „Selfies” na moim iPhonie, gdzie znalazłem kilka odpowiednich zdjęć. Pobrałem kilka, ale Lensa odrzuciła niektóre jako nienadające się do użytku (nie powiedziałam dlaczego), więc wybrałam jeszcze kilka. Z perspektywy czasu powinnam wybrać znacznie mniej zdjęć profilowych i zdjęć, na których robię głupie miny. Podobnie jak w przypadku większości systemów obrazowania AI, dostajesz to, co umieścisz w Lensie.
Ogólnie jestem zadowolony z rezultatów (powyżej widać kilka przykładów), ale skończyło się na tym, że poczułem się nieswojo, trochę jakbym grał. Powinienem był zadać kilka pytań, a właściwie wiele, zanim przesłałem swoje zdjęcia.
Dzień po tym, jak Lensa dostarczyła 50 moich obrazów AI 4K (zostaną one w aplikacji, ale możesz pobrać swoje ulubione w rozdzielczości standardowej lub 4K), wysłałem deweloperowi Lensy, firmie Prisma Labs, listę pytań:
- Czy przechowujesz przesłane zdjęcia? Jeśli tak, czy są one szyfrowane?
- Kiedy wydaliście grę Magic Avatar?
- W jaki dokładnie sposób sztuczna inteligencja jest wykorzystywana do generowania obrazów?
- Ile osób przesłało Twoje zdjęcia?
- Dlaczego pobieracie z góry opłaty za subskrypcję, skoro ludzie mogą zapłacić tylko 7.99 EUR za 50 obrazów?
- Jak rozwiązujesz problemy związane z przesyłaniem zdjęć przez osoby bez ich zgody?
- Czy słyszałeś o niektórych, które są używane do generowania treści dla dorosłych?
W pewnym sensie możesz wziąć dowolne lub wszystkie z tych pytań i praktycznie zastosować je w systemie obrazowania AI. Chociaż wszystkie te systemy sztucznej inteligencji są ekscytujące, wydają się być czarnymi skrzynkami. Dla niektórych umieszczamy tylko podpowiedzi tekstowe, ale nadal nie rozumiemy, w jaki sposób generują grafikę.
Na przykład większość pracy stojącej za Magic Avatars firmy Lensa jest wykonywana przez bezpłatną platformę obrazowania typu open source Stable Diffusion, jedną z wielu, które zostały oskarżone o przywłaszczanie prac artystów (otwiera się w nowej karcie) w celu szkolenia symulowanej sztucznej inteligencji .
Ale to tylko jedna z moich obaw. Innym jest to, co dzieje się z obrazami, które tak dobrowolnie udostępniamy? Skąd wiemy na przykład, że przesyłane przez nas obrazy nie są wykorzystywane do dalszego szkolenia sztucznej inteligencji? Nie widzę możliwości wykluczenia takiej możliwości.
Nie ma również żadnych ostrzeżeń, aby nie pobierać czyjegoś obrazu bez pozwolenia. Słyszałem doniesienia, że niektóre osoby używają systemu do generowania zdjęć pornograficznych niczego niepodejrzewających osób (otwiera w nowej karcie) bez ich zgody.
Gdzie trafiają nasze oryginalne zdjęcia, gdy praca Lensy jest zakończona? Bez żadnych informacji obiecujących, że Lensa je usunie, musiałbym założyć, że trzymają je wszystkie w aktach. Możemy mieć tylko nadzieję, że są one przynajmniej zaszyfrowane.
Prisma Labs odpowiada
Mam dobre wieści. Chociaż Prisma Labs nie zawiera w swojej aplikacji wielu informacji, które uważam za niezbędne, i nie odpowiedziała bezpośrednio na moje pytania, skierowała mnie do obszernego FAQ (otwiera się w nowej karcie), które dotyczy niektórych z tych problemów.
Na pytanie, co Lensa robi z naszymi zdjęciami, Prisma Labs pisze, że są one usuwane z serwerów Prisma Labs po zakończeniu przetwarzania. Jednak FAQ zawiera również ten język:
„Przechowujemy awatary tak długo, jak jest to konieczne, aby świadczyć usługi naszym użytkownikom. Należy pamiętać, że obecnie pracujemy nad nową funkcją, która umożliwi użytkownikom trwałe usunięcie ich awatarów z naszych serwerów”.
Innymi słowy, Twoje oryginalne zdjęcia zniknęły, ale te stworzone przez Lensę? Prisma Labs nadal je ma. Nawiasem mówiąc, nie ma wzmianki o szyfrowaniu danych.
Często zadawane pytania nie dotyczą kwestii własności obrazu: przesyłany obraz musi należeć do Ciebie lub do takiego, do którego masz prawo dostępu. Są to obrazy „zseksualizowane”, ale przede wszystkim tendencja AI do seksualizacji postaci kobiecych. Co ważniejsze, Prisma Labs dodaje: „Nasze Warunki świadczenia usług całkowicie zabraniają celowego używania aplikacji do tworzenia treści dla dorosłych i wymagają od użytkowników Lensy przestrzegania tego wymagania”.
Nie jest jasne, w jaki sposób Prisma Labs egzekwuje tę konkretną zasadę, a jeszcze mniej pomocnie, Prisma Labs dodaje następującą notatkę: „Niestety, wszystkie te wysiłki nie zapewniły jeszcze sztucznej inteligencji całkowicie odpornej na stronnicze treści i wyraźne obrazy. Dlatego też zastrzegamy, że produkt nie jest przeznaczony do użytku przez nieletnich i ostrzega użytkowników o potencjalnym ryzyku związanym z treścią.”
Nie mogę zasadnie powiedzieć, żebyś nie wypróbował aplikacji, zwłaszcza po tym, jak to zrobisz. Jednak zanim to zrobisz, upewnij się, że odpowiadasz (i brak odpowiedzi) Prisma Lab na którekolwiek z tych pytań.