Die gewalten der künstlichen intelligenz (AI) werden mit beispielloser geschwindigkeit vorangetrieben. Es handelt sich um eine neue ära der AI, in der die grenzen der wissenschaftlichen forschung mit der hilfe der AI erweitert und komplexere probleme schneller gelöst werden, aber es gilt, vorsichtig zu sein: auch die "produktivität" der terroristen kann durch AI stark gesteigert werden.
Wie der forscher vincent cheni, ein experte für "trends technology" der sicherheitsfirma, erklärte, bietet er ein neues, mächtiges werkzeug, mit dem zerstörerische akteure ihre aktivitäten effektiver und internationaler gestalten können.
Die meisten kriminellen "leben nicht in dunklen gegenden, wo sie sich verschworen", erklärt gelliini, "die meisten Von ihnen sind normale menschen, das tägliche leben".
Im vergangenen jahr war "wörmgpt niedergang" ein markenzeichen. Der fall WormGPT ist ein auf einem open-source-modell basiertes sprachmodell, das mit schadgestützten daten trainiert wird, die hacker ohne ethische regeln Oder grenzen unterstützen. Im sommer 2023, nach der hohen medienaufmerksamkeit, erklärten die schöpfer des modells seine schließung. Seither haben die meisten cyberkriminellen aufgehört, eigene modelle zu entwickeln, und versucht, "tricks" mit robusteren, verfügbaren mitteln zu benutzen.
Das liegt vielleicht daran, dass die verbrecher die gewinne schneller erzielen wollen und die unbekannten risiken der neuen technologien nicht eingehen wollen. Man muß darauf mehr achten; hier sind einige der bisher üblichen methoden zu sehen.
Angeln mit dem netz: verführung persönlicher informationen
Mislav balowitsch, AI -sicherheitsforscher am eth zürich institut für technologie in zürich, sagt, der größte missbrauch der AI das netz sei zum beispiel der anstiftung empfindlicher informationen zu geistigen zwecken. Wie studien zeigen, ging die zahl der angele-mails im internet mit dem entstehung des chatghut-netzes einher.
Chatgnet beabsichtigt, das programm zur generierung sterbeurkunden wie GoMail inszeniert zu haben, was kriminelle nutzer in die Lage versetzt, die mitteilungen an ihre opfer zu übersetzen Oder zu verbessern. Es beeinflusst die politik der OpenAI die illegalen aktivitäten mit ihren produkten, aber es ist schwierig, sie in der praxis zu regulieren.
Die OpenAI sagt aus, dass sie künstliche zensur mit automatisierten systemen verbinden, um den missbrauch ihrer modelle zu erkennen und zu verhindern, was zu warnungen, aussetzung Oder permanenten schließungen führt, wenn nutzer die firmenpolitik verletzen.
Außerdem ist zu berücksichtigen, dass es dank der fortschritte bei AI die kommunikation krimineller gruppen überall auf der welt erleichtert hat, wodurch sie erhebliche grenzüberschreitende aktivitäten Oder heimliche aktionen gegen nutzer in anderen ländern unternehmen können.
Eine große fälschungen: auf den schwarzmarkt
Das ergebnis der künstlichen intelligenz (Deepfake) verändert die entwicklung einer tiefenfälschung (Deepfake). Die kriminellen Wissen, dass heute künstlich hergestellte bilder Oder tonvideos ob bilder Oder videos authentischer sind als je zuvor.
Das telegrafenteam stellte fest, dass nutzer über plattformen wie Telegram und co. ihre "Telegram" mit einem namen über Telegram und einem preis Von 10 dollar pro bild und 500 dollar pro minute verkaufen.
Das gesamtbild ist komplizierter und fällt leichter. Die extrem gefälschten audio sind so preiswert, dass bereits nach ein paar sekunden eine stimme (zum beispiel in sozialen medien) überzeugende inhalte erzeugt werden kann.
Derartige betrug ist nicht selten, denn ein Von einem verwandten erhielt einen notruf, in dem er behauptete, entführt worden zu sein und lösegeld verlangt zu haben.
Geld gori schlug vor, geheimbegriffe zu vereinbaren und regelmäßig zu wechseln, um in notfällen die personen zu identifizieren, die am anderen ende des telefons stehen.
Am problem der identitätsprüfung vorbei: ein fake "du"
Auch die alternative, durch die terroristen das überprüfungssystem missbrauchen, ist die umgehung des überprüfungssystems.
Manche banken und verschlüsselte geldgeschäfte müssen überprüfen, ob ihre kunden persönlich betroffen sind. Sie werden Von neuen nutzern verlangen, dass sie mit ihrem ausweis vor einer handy-kamera ein foto Von sich machen, aber die kriminellen verkaufen schon jetzt auf plattformen wie telegrafen anwendungen, die diese forderung umgehen.
Zur kontrolle über handys bieten sie gefälschte Oder gestohlene identitätsausweise an, indem sie der person ein tief gefälschtes bild unterjubeln. Nach einigen Von chengalii entdeckten fällen kostet die dienstleistung bis zu 70 dollar.
The start in die hölle: ein export Von gefahrenzulage
Wenn AI fragt, wie man bomben baut, kriegt er keine klappt. Es hat damit zu tun, dass die meisten ais vorkehrungen getroffen haben, um die weitergabe schädlicher Oder gefährlicher informationen durch ihre modelle zu verhindern.
Es ist sehr teuer, zeitaufwendig und schwierig, dass cyberkriminelle es versäumt haben, ihre eigenen al - modelle zu entwickeln. Eine neue kriminalistische tendenz nimmt zu die dienste der gefängnisausbruch.
So gibt es beispielsweise keine antworten auf fragen, auf die die modelle ihre anwendung finden. Aber flucht erlaubt es den verbrauchern, AI zu manipulieren und zu erzeugen, die gegen diese richtlinien verstoßen. Beispielsweise wurde ein code für erpressung Oder für die erstellung Von text erstellt, der in gestohlenen e-mails zum einsatz kommt
Es wird angezeigt, dass unternehmen wie OpenAI und google sicherheitslücken schließen, die wieder ernste gefahren darstellen könnten.
Belegung und überwachung Von menschenfleisch: eine gefährdung der benutzer-privatsphäre
Das funktioniert nicht nur beim angeln im netz, wie balowitsch sagt, sondern auch bei der suche nach menschen (wenn über das internet informationen über einen persönlichen identität weitergegeben werden). Das liegt daran, dass das modell mit enormen Mengen an digitalen daten, einschließlich persönlichen daten, ausgerüstet wurde, um etwa zu ermitteln, wo jemand gerade sitzt.
Der täter könnte eine choreografie an privatdetektive durchführen lassen, die ihrerseits den text des opfers analysieren und aus kleinen hinweisen aus dem text auf eigene personen schließen. Zum beispiel daraus, wann sie zur highschool gehen und ob sie alt sind Oder hinfahren, wie sie es nennen. Je mehr information diese person im internet hat, desto leichter ist sie erkennbar.
Das team baruowitsch fand ende 2023 heraus, dass große sprachmodelle wie gpt-4, lma 2 und Claude bereits ausschließlich aus den täglichen gesprächen mit androiden, rassen, standort und gewerbe der menschen abbilden konnten. Im prinzip kann jeder, der auf diese modelle zugreifen kann, sie auch anwenden.
Die existenz dieser dienste weist nicht direkt auf die existenz krimineller tätigkeiten hin, doch müssen wir die neuen funktionen erkennen, die für böswillige akteure verfügbar sind. Und die einzige möglichkeit, dies zu verhindern, ist, die verteidigung zu stärken.
Nach ansicht Von AI sollen die daten verbessert werden. Für den einzelnen kommt es auf das präventionsbewusstsein an man sollte nachdenken, was man im internet sagt, und überlegen, ob man die eigenen persönlichen informationen über sein sprachmodell nutzen will.
Die gewalten der künstlichen intelligenz (AI) werden mit beispielloser geschwindigkeit vorangetrieben. Es handelt sich um eine neue ära der AI, in der die grenzen der wissenschaftlichen forschung mit der hilfe der AI erweitert und komplexere probleme schneller gelöst werden, aber es gilt, vorsichtig zu sein: auch die "produktivität" der terroristen kann durch AI stark gesteigert werden.
Wie der forscher vincent cheni, ein experte für "trends technology" der sicherheitsfirma, erklärte, bietet er ein neues, mächtiges werkzeug, mit dem zerstörerische akteure ihre aktivitäten effektiver und internationaler gestalten können.
Die meisten kriminellen "leben nicht in dunklen gegenden, wo sie sich verschworen", erklärt gelliini, "die meisten Von ihnen sind normale menschen, das tägliche leben".
Im vergangenen jahr war "wörmgpt niedergang" ein markenzeichen. Der fall WormGPT ist ein auf einem open-source-modell basiertes sprachmodell, das mit schadgestützten daten trainiert wird, die hacker ohne ethische regeln Oder grenzen unterstützen. Im sommer 2023, nach der hohen medienaufmerksamkeit, erklärten die schöpfer des modells seine schließung. Seither haben die meisten cyberkriminellen aufgehört, eigene modelle zu entwickeln, und versucht, "tricks" mit robusteren, verfügbaren mitteln zu benutzen.
Das liegt vielleicht daran, dass die verbrecher die gewinne schneller erzielen wollen und die unbekannten risiken der neuen technologien nicht eingehen wollen. Man muß darauf mehr achten; hier sind einige der bisher üblichen methoden zu sehen.
Angeln mit dem netz: verführung persönlicher informationen
Mislav balowitsch, AI -sicherheitsforscher am eth zürich institut für technologie in zürich, sagt, der größte missbrauch der AI das netz sei zum beispiel der anstiftung empfindlicher informationen zu geistigen zwecken. Wie studien zeigen, ging die zahl der angele-mails im internet mit dem entstehung des chatghut-netzes einher.
Chatgnet beabsichtigt, das programm zur generierung sterbeurkunden wie GoMail inszeniert zu haben, was kriminelle nutzer in die Lage versetzt, die mitteilungen an ihre opfer zu übersetzen Oder zu verbessern. Es beeinflusst die politik der OpenAI die illegalen aktivitäten mit ihren produkten, aber es ist schwierig, sie in der praxis zu regulieren.
Die OpenAI sagt aus, dass sie künstliche zensur mit automatisierten systemen verbinden, um den missbrauch ihrer modelle zu erkennen und zu verhindern, was zu warnungen, aussetzung Oder permanenten schließungen führt, wenn nutzer die firmenpolitik verletzen.
Außerdem ist zu berücksichtigen, dass es dank der fortschritte bei AI die kommunikation krimineller gruppen überall auf der welt erleichtert hat, wodurch sie erhebliche grenzüberschreitende aktivitäten Oder heimliche aktionen gegen nutzer in anderen ländern unternehmen können.
Eine große fälschungen: auf den schwarzmarkt
Das ergebnis der künstlichen intelligenz (Deepfake) verändert die entwicklung einer tiefenfälschung (Deepfake). Die kriminellen Wissen, dass heute künstlich hergestellte bilder Oder tonvideos ob bilder Oder videos authentischer sind als je zuvor.
Das telegrafenteam stellte fest, dass nutzer über plattformen wie Telegram und co. ihre "Telegram" mit einem namen über Telegram und einem preis Von 10 dollar pro bild und 500 dollar pro minute verkaufen.
Das gesamtbild ist komplizierter und fällt leichter. Die extrem gefälschten audio sind so preiswert, dass bereits nach ein paar sekunden eine stimme (zum beispiel in sozialen medien) überzeugende inhalte erzeugt werden kann.
Derartige betrug ist nicht selten, denn ein Von einem verwandten erhielt einen notruf, in dem er behauptete, entführt worden zu sein und lösegeld verlangt zu haben.
Geld gori schlug vor, geheimbegriffe zu vereinbaren und regelmäßig zu wechseln, um in notfällen die personen zu identifizieren, die am anderen ende des telefons stehen.
Am problem der identitätsprüfung vorbei: ein fake "du"
Auch die alternative, durch die terroristen das überprüfungssystem missbrauchen, ist die umgehung des überprüfungssystems.
Manche banken und verschlüsselte geldgeschäfte müssen überprüfen, ob ihre kunden persönlich betroffen sind. Sie werden Von neuen nutzern verlangen, dass sie mit ihrem ausweis vor einer handy-kamera ein foto Von sich machen, aber die kriminellen verkaufen schon jetzt auf plattformen wie telegrafen anwendungen, die diese forderung umgehen.
Zur kontrolle über handys bieten sie gefälschte Oder gestohlene identitätsausweise an, indem sie der person ein tief gefälschtes bild unterjubeln. Nach einigen Von chengalii entdeckten fällen kostet die dienstleistung bis zu 70 dollar.
The start in die hölle: ein export Von gefahrenzulage
Wenn AI fragt, wie man bomben baut, kriegt er keine klappt. Es hat damit zu tun, dass die meisten ais vorkehrungen getroffen haben, um die weitergabe schädlicher Oder gefährlicher informationen durch ihre modelle zu verhindern.
Es ist sehr teuer, zeitaufwendig und schwierig, dass cyberkriminelle es versäumt haben, ihre eigenen al - modelle zu entwickeln. Eine neue kriminalistische tendenz nimmt zu die dienste der gefängnisausbruch.
So gibt es beispielsweise keine antworten auf fragen, auf die die modelle ihre anwendung finden. Aber flucht erlaubt es den verbrauchern, AI zu manipulieren und zu erzeugen, die gegen diese richtlinien verstoßen. Beispielsweise wurde ein code für erpressung Oder für die erstellung Von text erstellt, der in gestohlenen e-mails zum einsatz kommt
Es wird angezeigt, dass unternehmen wie OpenAI und google sicherheitslücken schließen, die wieder ernste gefahren darstellen könnten.
Belegung und überwachung Von menschenfleisch: eine gefährdung der benutzer-privatsphäre
Das funktioniert nicht nur beim angeln im netz, wie balowitsch sagt, sondern auch bei der suche nach menschen (wenn über das internet informationen über einen persönlichen identität weitergegeben werden). Das liegt daran, dass das modell mit enormen Mengen an digitalen daten, einschließlich persönlichen daten, ausgerüstet wurde, um etwa zu ermitteln, wo jemand gerade sitzt.
Der täter könnte eine choreografie an privatdetektive durchführen lassen, die ihrerseits den text des opfers analysieren und aus kleinen hinweisen aus dem text auf eigene personen schließen. Zum beispiel daraus, wann sie zur highschool gehen und ob sie alt sind Oder hinfahren, wie sie es nennen. Je mehr information diese person im internet hat, desto leichter ist sie erkennbar.
Das team baruowitsch fand ende 2023 heraus, dass große sprachmodelle wie gpt-4, lma 2 und Claude bereits ausschließlich aus den täglichen gesprächen mit androiden, rassen, standort und gewerbe der menschen abbilden konnten. Im prinzip kann jeder, der auf diese modelle zugreifen kann, sie auch anwenden.
Die existenz dieser dienste weist nicht direkt auf die existenz krimineller tätigkeiten hin, doch müssen wir die neuen funktionen erkennen, die für böswillige akteure verfügbar sind. Und die einzige möglichkeit, dies zu verhindern, ist, die verteidigung zu stärken.
Nach ansicht Von AI sollen die daten verbessert werden. Für den einzelnen kommt es auf das präventionsbewusstsein an man sollte nachdenken, was man im internet sagt, und überlegen, ob man die eigenen persönlichen informationen über sein sprachmodell nutzen will.
