KI könnten neue Risiken wie Arbeitsplatzverluste oder biologische Angriffe ermöglichen, sagen Experten, sagen Experten

Ein neuer internationaler Bericht über künstliche Intelligenz (KI) wurde im nächsten Monat vor einem Gipfel in Frankreich veröffentlicht.

Advanced Artificial Intelligence Systems (KI) -Systeme können laut einem neuen internationalen Bericht, der am Mittwoch vor einem großen Gipfel in Paris im nächsten Monat veröffentlicht wurde, extrem neue Risiken einbringen.

Zu den Risiken gehören die Förderung weit verbreiteter Arbeitsplatzverluste, wodurch Terrorismus oder die Gesellschaft die Kontrolle über die Technologie verlieren können, so Experten.

Der internationale wissenschaftliche Bericht über die Sicherheit der fortgeschrittenen KI wird von 30 Ländern unterstützt, darunter die Vereinigten Staaten und China, wobei die seltene Zusammenarbeit zwischen den beiden Ländern im Kampf um die Technologie ist.

Erst in dieser Woche rasselte der chinesische Start-up Deepseek mit seinem Budget-Chatbot die globalen Märkte.

„Die Einsätze sind hoch“, heißt es in dem Bericht und stellt fest, dass vor einigen Jahren die besten KI -Systeme kaum einen kohärenten Absatz ausspucken könnten.

„Heute kann allgemeine KI Computerprogramme schreiben, benutzerdefinierte fotorealistische Bilder generieren und erweiterte offene Gespräche führen“, fügte der Bericht hinzu.

Zusätzliche Risiken

Während einige KI-Schäden bereits weithin bekannt sind, wie beispielsweise Deepfakes, Betrug und voreingenommene Ergebnisse, heißt es in dem Bericht, dass „die allgemeine KI in der Lage ist, nach allmählich entsteht, dass der Nachweis für zusätzliche Risiken allmählich entsteht“ und die Risikomanagementtechniken nur in ihren frühen Jahren sind Stufen.

Der Bericht konzentriert sich auf Allzweck -KI, die von Chatbots wie dem ChatGPT von OpenAI typisiert werden, mit dem viele verschiedene Arten von Aufgaben ausgeführt wurden.

Die Risiken fallen in drei Kategorien: böswillige Verwendung, Fehlfunktionen und weit verbreitete „systemische“ Risiken.

KI erleichtert es beispielsweise, zu lernen, wie man biologische oder chemische Waffen erstellt, da KI-Modelle Schritt-für-Schritt-Pläne bereitstellen können.

Aber es ist „unklar, wie gut sie die praktischen Herausforderungen erfassen“, die Agenten zu bewaffnen und zu liefern, hieß es.

Allzwecke AI wird wahrscheinlich auch eine Reihe von Arbeitsplätzen und „Verdrängverschiebungen“ verändern, heißt es in dem Bericht und stellt fest, dass einige Forscher glauben, dass sie mehr Arbeitsplätze schaffen könnten, als es wegnimmt, während andere der Meinung sind Es gibt viel Unsicherheit darüber, wie es sich auswirken wird.

KI -Systeme könnten auch außer Kontrolle geraten, entweder weil sie die menschliche Aufsicht aktiv untergraben oder Menschen weniger Aufmerksamkeit schenken, heißt es in dem Bericht.

Eine Reihe von Faktoren macht es jedoch schwierig, die Risiken zu verwalten, einschließlich KI -Entwicklern, die wenig darüber wissen, wie ihre Modelle funktionieren, sagten die Autoren.

Internationale Zusammenarbeit zur KI -Sicherheit

Das Papier wurde auf einem ersten globalen Gipfel zur KI -Sicherheit in Auftrag gegeben, das im November 2023 von Großbritannien veranstaltet wurde und auf der sich die Nationen bereit erklärten, zusammen zu arbeiten, um potenziell „katastrophale Risiken“ einzudämmen.

Bei einem von Südkorea im vergangenen Jahr veranstalteten Follow-up-Treffen versprachen KI-Unternehmen, die Sicherheit von KI zu entwickeln, während die Führungskräfte der Welt ein Netzwerk von öffentlichen KI-Sicherheitsinstituten unterstützten.

Der Bericht, der ebenfalls von den Vereinten Nationen und der Europäischen Union unterstützt wird, soll Veränderungen in Regierungen übernachten, wie z.

Präsident Donald Trump hat an seinem ersten Amtstag die KI -Sicherheitsrichtlinien des ehemaligen Präsidenten Joe Biden aufgehoben und seitdem seine neue Verwaltung angewiesen, seinen eigenen Ansatz zu erstellen.

Aber Trump hat keinen Schritt unternommen, um das KI -Sicherheitsinstitut zu lösen, das Biden im vergangenen Jahr gegründet hat, Teil eines wachsenden internationalen Netzwerks solcher Zentren.

Es wird erwartet, dass die Führer der Welt, die Tech -Chefs und die Zivilgesellschaft im nächsten Monat am Paris AI Action Summit erneut einberufen werden.

Französische Beamte haben angekündigt, dass die Länder eine „gemeinsame Erklärung“ zur KI -Entwicklung unterzeichnen werden und sich der nachhaltigen Entwicklung der Technologie einig sind.