Dziecko uciekające przed tyranozaurem, a w tle gra Lady Gaga. Koty tańczące na tylnych łapach w strojach ulicznych. Nagranie z kamery nasobnej przedstawiające policjanta aresztującego stertę makaronu z serem.
Wielkie firmy technologiczne chcą wprowadzić do mediów społecznościowych sztuczną inteligencję – i jak dotąd efekt jest raczej kiepski.
Aplikacja Sora firmy ChatGPT, w której w zeszłym tygodniu pojawiły się niektóre z tych scen, to najnowszy gracz w mediach społecznościowych opartych na sztucznej inteligencji. Aplikacja AI firmy Meta oferuje kanał wideo w stylu TikToka o nazwie Vibes. Możesz rozmawiać z personami AI na Instagramie w wiadomościach bezpośrednich. Narzędzie AI Alive od TikToka zamienia obrazy w filmy za pomocą prostej komendy.
Te działania są częścią wyścigu o wysoką stawkę, który może ukształtować kolejną erę internetu. Wygrana w tym wyścigu jest kluczowa dla gigantów technologicznych, którzy próbują znaleźć sposób na zarabianie na sztucznej inteligencji w obliczu obaw o bańkę spekulacyjną.
Próby wprowadzenia sztucznej inteligencji do mediów społecznościowych wywołały w sieci ogromne obawy. Pytania dotyczą m.in. tego, czy narzędzia te naruszają prawa autorskie, a także tego, w jaki sposób mogą przyczyniać się do masowego rozprzestrzeniania fałszywych treści.
Na przykład, w ciągu kilku dni od debiutu aplikacji Sora, Charles Rivkin, dyrektor generalny i prezes Motion Picture Association, oświadczył, że „w serwisie OpenAI i w mediach społecznościowych mnożą się filmy naruszające prawa naszych członków, takie jak filmy, programy i postacie” z powodu Sora.
Sam Altman, prezes OpenAI, napisał w poście na blogu, że firma wkrótce zapewni posiadaczom praw „bardziej szczegółową kontrolę nad generowaniem postaci” i że bada model podziału przychodów. Komunikaty z postaciami chronionymi prawami autorskimi, takimi jak Pikachu czy Spongebob, powodują teraz wyświetlenie komunikatu o błędzie informującego, że treść „może naruszać nasze zabezpieczenia dotyczące podobieństwa do treści stron trzecich”.
Sztuczna inteligencja jedynie nasiliła długotrwałe obawy dotyczące dezinformacji w mediach społecznościowych. Jednak zaawansowane narzędzia, takie jak Sora, które pozwalają tworzyć realistyczne nagrania, podniosły te obawy na nowy poziom, zwłaszcza że stosunkowo łatwo jest usunąć znaki wodne wskazujące na to, że takie filmy zostały wygenerowane przez sztuczną inteligencję.
Filmy generowane przez Sora są również osadzone w metadanych C2PA – standardowym, branżowym standardzie, który określa pochodzenie filmu. Firma twierdzi również, że jej technologia może wykrywać osoby i osoby publiczne w ramach środków zapobiegających deepfake’om. Meta twierdzi, że media tworzone za pomocą jej narzędzi AI mają „niewidzialny znak wodny”, który pomaga jej śledzić szkodliwe treści generowane przez AI, a także etykiety AI.
Rosną również obawy, że chatboty oparte na sztucznej inteligencji (AI) są szczególnie szkodliwe dla nastolatków, po serii pozwów, w których twierdzono, że persony oparte na sztucznej inteligencji w aplikacji Character.AI przyczyniły się do samobójstw i problemów ze zdrowiem psychicznym wśród młodych ludzi. OpenAI twierdzi, że Sora oferuje „silniejsze zabezpieczenia dla młodych użytkowników”, takie jak ograniczenia dotyczące generowania treści dla dorosłych i uniemożliwianie dorosłym inicjowania wiadomości z nastolatkami. Firma Meta poinformowała, że wykorzystuje technologię, aby uniemożliwić dorosłym, którzy wykazują podejrzane zachowania, przeglądanie i interakcję z treściami dla nastolatków.
Pojawia się też pytanie, czy konsumenci w ogóle chcą, żeby ich kanały zalewały „sztuczne śmieci”. W zalewie losowości na Sora i Meta AI nie ma nic, co sprawiałoby, że miałbym ochotę przewijać je w nieskończoność.
Sama koncepcja połączenia mediów społecznościowych z asystentami AI wywołała zamieszanie na początku tego roku. Niektórzy użytkownicy Meta AI najwyraźniej nie zdawali sobie sprawy, że ich podpowiedzi AI – z których niektóre rzekomo zawierały tematy osobiste, takie jak pytania medyczne lub prawne – były częścią publicznego kanału aplikacji. Meta poinformowała wówczas, że czaty są domyślnie prywatne i nie są udostępniane w kanale Discover, chyba że użytkownicy udostępnią je w ramach wieloetapowego procesu.
Szczerze mówiąc, niekończące się przewijanie nie jest celem Sora i Meta AI. Aplikacje te mają zachęcać użytkowników do tworzenia większej liczby filmów za pomocą narzędzi OpenAI i Meta, co prawdopodobnie ma na celu stać się platformą pierwszego wyboru dla kolejnego pokolenia influencerów i gwiazd internetu, które coraz częściej korzystają z AI.
Jednak uderzające podobieństwo do TikToka i innych aplikacji do publikowania krótkich filmów pokazuje, że platformy te rzeczywiście starają się stać się miejscem oglądania treści, a nie tylko forum dla twórców.
Być może jest to zupełnie nowa forma mediów społecznościowych, nad którą firmy takie jak OpenAI i Meta wciąż pracują.
