Sora pozwala teraz otrzymać podwójne AI, dając więcej powiedzenia na temat tego, jak i gdzie pojawiają się wersje DeepFake w aplikacji. Aktualizacja ląduje jako Openai Surties, aby pokazać, że faktycznie troszczy się o obawy swoich użytkowników jako zbyt predyderacyjną Tsunami z AI Slop grozi przejęciem przez Internet.
Nowe elementy sterujące są częścią szerszej partii weekendowych aktualizacji mających na celu ustabilizowanie Sora i zarządzanie warzeniem chaosu w jej kanale. Sora jest zasadniczo „Tiktok na głębokie szafki”Miejsce do robienia 10-sekundowych filmów z prawie wszystkiego, w tym wersji siebie lub innych (w tym głos). Openai nazywa te wirtualne występy„ sceny ”. Krytycy nazywają ich zbliżającą się katastrofą dezinformacji.
Bill Peebles, który kieruje zespołem Sora w Openai, powiedział Użytkownicy mogą teraz ograniczyć sposób, w jaki można używać wersji siebie w aplikacji. Na przykład możesz zapobiec pojawieniu się AI w filmach dotyczących polityki, powstrzymaniu tego od wypowiedzenia określonych słów lub – Jeśli nienawidzisz musztardy – Zatrzymaj to przed pojawieniem się w pobliżu piekielnej przyprawy.
Pracownik Openai Thomas Dimson powiedział Użytkownicy mogą również dodawać preferencje dotyczące swoich wirtualnych podwójnych, takich jak na przykład, czyniąc ich „noszą czapkę fanów ketchup” w każdym filmie ”.
Zabezpieczenia są mile widziane, ale historia Z botów napędzanych AI, takimi jak Chatgpt i Claude, oferujący wskazówki dotyczące materiałów wybuchowych, cyberprzestępczości lub bejm, sugerują kogoś, gdzieś prawdopodobnie wymyśli sposób. Ludzie już omijali jedną z innych funkcji bezpieczeństwa Sory, słabego znaku wodnego. Peebles powiedział, że firma „pracuje nad”, poprawiając to.
Peebles powiedział, że Sora będzie kontynuowana „do HillClimb w sprawie ograniczenia ograniczeń” i „doda nowe sposoby pozostania w kontroli” w przyszłości.
W ciągu tygodnia od uruchomienia aplikacji Sora jest współwinna w wypełnianiu Internetu slop generowanym przez AI. Luźne kontrole kamei – prawie tak lub nie dla grup takich jak Mutuals, ludzie, których zatwierdzasz lub „wszyscy” – były szczególnym problemem. . Niezadowolona gwiazda Z platformy, nikt inny niż dyrektor generalny Openai, Sam Altman, ilustruje niebezpieczeństwo, występując w różnych kpiących filmach, które pokazują, że kradnie, rapuje, a nawet nawet Grillowanie martwego Pikachu.