Były dyrektor sportowy szkoły średniej w Baltimore został aresztowany i oskarżony o popełnienie przestępstwa używając usługi klonowania głosu AI, aby wrobić dyrektora szkoły.
Sztandar Baltimore raporty że policja w Baltimore uważa, że rzekome nagranie, na którym dyrektor szkoły średniej w Pikesville, Eric Eiswert, wypowiadał rasistowskie i antysemickie uwagi, zostało sfałszowane. Eksperci powiedzieli Sztandar Baltimore i policji w Baltimore, że nagranie, które obiegło media społecznościowe w styczniu i na krótko doprowadziło do zawieszenia Eiswerta, ma „płaski ton, niezwykle czyste dźwięki w tle oraz brak spójnych dźwięków oddechu i przerw”.
Policja z Baltimore nawiązała do nagrania Dazhona Dariena, byłego dyrektora sportowego szkoły, którego nazwisko również zostało wspomniane w nagraniu audio. Rzekomo uzyskał dostęp do szkolnych komputerów w celu wyszukania „narzędzi OpenAI”. Nie jest jasne, z jakiej platformy głosowej AI rzekomo korzystał Darien.
W tym napiętym środowisku W marcu OpenAI zdecydowało się wstrzymać platformę generowania tekstu na głos wykorzystującą sztuczną inteligencję, Voice Engine, do użytku publicznego. Usługa, która wymaga jedynie 15-minutowego klipu audio do sklonowania czyjegoś głosu, jest dostępna tylko dla ograniczonej liczby badaczy ze względu na brak barier ochronnych wokół tej technologii.
Amerykańscy prawodawcy złożyli, ale jeszcze nie przyjęli, kilka takich ustaw ustawa o zakazie podróbek I ustawa o zakazie oszustw związanych z sztuczną inteligencją które mają na celu uniemożliwienie firmom technologicznym wykorzystywania twarzy, głosu lub imienia danej osoby bez jej zgody.