Der ChatGPT-Hersteller sagte, er blockiere besonders schädliche Formen des Missbrauchs, wie zum Beispiel Materialien zum sexuellen Missbrauch von Kindern und sexuelle Deepfakes.
OpenAI stellt sein KI-erstellendes Videotool Millionen von Benutzern zur Verfügung, die für ChatGPT bezahlen, und markiert damit die nächste Welle der künstlichen Intelligenz.
Das Unternehmen hat am Montag die neueste Version seines Sora-Videogenerators, Sora Turbo, veröffentlicht, der Menschen die Möglichkeit gibt, 20-Sekunden-Videoinhalte zu erstellen, die fotorealistisch aussehen und die Angst vor weiteren Deepfake-Videos verstärken.
OpenAI sagte, das Produkt sei im Europäischen Wirtschaftsraum, in der Schweiz oder im Vereinigten Königreich noch nicht verfügbar, möglicherweise aufgrund von Vorschriften, was bei den anderen Produkten von OpenAI der Fall war, die zu einem späteren Zeitpunkt auf den europäischen Markt kamen.
„Wir werden unser Bestes geben, um dort starten zu können“, sagte OpenAI-CEO Sam Altman am Montag.
Das Unternehmen möchte auch die illegale Nutzung des Tools verhindern, „aber wir möchten dies auch mit kreativem Ausdruck in Einklang bringen“, fügte er hinzu.
OpenAI gab an, einige Sicherheitsvorkehrungen implementiert zu haben, darunter sichtbare Wasserzeichen und Verifizierungsmetadaten. Zu Beginn wird es Einschränkungen beim Hochladen von Personenbildern geben, da das Unternehmen nach eigenen Angaben seine Abwehrmaßnahmen gegen Deepfakes verfeinert.
Das Unternehmen erklärte in einem Blogbeitrag, dass es besonders schädliche Formen des Missbrauchs blockiert, etwa Materialien zum sexuellen Missbrauch von Kindern und sexuelle Deepfakes.
Die Moderation von Benutzerinhalten werde „ein wenig konservativ“ beginnen, aber wenn sie „nicht ganz richtig läuft, geben Sie uns einfach Ihr Feedback“, sagte Altman.
OpenAI sagte auch, dass Sora immer noch Einschränkungen hat. „Es erzeugt oft unrealistische Physik und hat über lange Zeiträume mit komplexen Aktionen Probleme“, sagte das Unternehmen.
OpenAI stellte Sora erstmals im Februar vor, es war jedoch nur ausgewählten Filmemachern, Künstlern und Sicherheitstestern zugänglich
OpenAI ist nicht das einzige Unternehmen, das an KI-Videotools arbeitet. Meta entwickelt Movie Gen und Google hat seinen Veo-Videogenerator veröffentlicht. Beide sind jedoch nicht öffentlich verfügbar.
