Am 29. Februar veröffentlichte die keanselm group den bericht über die sicherheit künstlicher intelligenz 2024 (auch als "bericht" bezeichnet). Der bericht kommt zu dem schluss, dass der bösartige einsatz künstlicher intelligenztechnologie rasch zunehmen könnte und eine ernste bedrohung der politischen sicherheit, der cyber-sicherheit, der physischen und militärischen sicherheit darstellen würde.

Der bericht offenbart zwölf wichtige, Von AI gestützte bedrohungen, bei denen es zu antwortmaßnahmen kommt. Dem bericht zufolge nahm der schwere betrug bei der AI im jahr 2023 um mehr als 30.000 prozent zu, ebenso wie auch AI's fischen -post um mehr als 100.000 prozent gewachsen ist; Es wurden mehr als ein dutzend cyber-attacken gemeldet, die hierzulande eingeweiht wurden, AI. Derzeit jedoch wird abs-daten in der industrie nur unzureichend erforscht und Ernst genommen, und zwar aufgrund der erkenntnisse des berichts, wonach die mit künstlicher intelligenz verbundenen risiken trotz des einsatz großer modelle als ganzes nicht ausreichend untersucht werden sollten.

Riesige modelle zünden hitzewellen aus, und der zweischneidige effekt scheint zu zeigen

Im jahr 2022 entwickelte sich das Von ChatGPT entwickelte breitsputnik präsentiert, im rahmen dessen sich die entwicklung der AI mit rasantem aufkommen manifestiert und die welt mit fähigkeiten und effektivität Von anwendungen der AI konfrontiert wird. Die avic-studie zeigt, dass 67 prozent der chinesischen unternehmen begonnen haben, möglichkeiten für möglichkeiten der nutzung Von AIGC innerhalb des unternehmens Oder der finanziellen mittel zu erkunden. Die franzosen sagen voraus, dass die welt im jahr 2026 im markt im großen modellmarkt AI 101 einen wert Von 211 milliarden dollar haben könnte und dass die entwicklung künstlicher intelligenz die kritische phase ihrer grossartigen anwendungen einschlägt.

Das argument der AI ist, dass "es eine universelle technologie ist, die das gute wirken und das falsche tun bedeutet". Es birgt das enorme potenzial der ais-technologien in sich zwei wichtige herausforderungen: die verstärkung bereits bestehender bedrohungen und die einführung neuer bedrohungen. Chiang rechnet damit, dass der bösartige einsatz künstlicher intelligenztechnologie im nächsten jahrzehnt rapide zunehmen wird und eine ernsthafte bedrohung der politischen sicherheit, der cybersicherheit, der physischen und militärischen sicherheit darstellen wird.

In studien wurde festgestellt, dass künstliche intelligenz zu angriffswerkzeug wurde und dass sie eine bedrohung darstellt, die immer häufiger in angriff nimmt. Die daten weisen darauf hin, dass das risiko des tiefs der AI im jahr 2023 um mehr als 130 prozent gestiegen ist, ebenso wie die anzahl der angeln - und k-e-mails Von AI; Ein beobachter des nachrichtendienstes chiang stellt fest, dass mehr als ein dutzend cyber-angriffe Von aitc-gruppen mit nationalen verbindungen durchgeführt wurden, die AI eingesetzt haben. Es haben sich bereits breit gefächerte neue arten und methoden Von angriffszielen entwickelt, die das phänomen AI betreffen angefangen Von einer tiefenfälschung (Deepfake) über sprachmodelle aus der finsternis, bösartigen robotern sowie automatisierten angriffen.

Im derzeitigen globalen schema vom schema und im großen stil macht die rasch wachsende aib eine komplexere und unberechenbarere militärische bedrohung aus, einschließlich solcher im zusammenhang mit waffensystemen, die unkontrollierbare kriege hervorrufen, ohne dass sie missbraucht Oder gar missbraucht werden. Künstliche intelligenz wird beispielsweise in tötenden autonomen waffen wie "roboter killers" eingesetzt, was zu unwillkürlichen tötungen führen kann. Daten besagen, dass das us-verteidigungsministerium im jahr 2024 die investitionen in die eng mit AI zusammenhängende cyber-sicherheit mit rund 245,7 milliarden dollar und 677.000 milliarden dollar für internetgestützte IT - und elektronische kriegsanstrengungen vorgesehen hat.

AI hat zwölf bedrohungen eingeführt Oder vergrößert, mit dem respekt, der AI zu wenig wert ist

Mit dem bericht sind zwölf wichtige bedrohungen (Deepfake), tiefenfälschung bei AI, infrastruktur für entarteten sprachen, automatisierte angriffe auf AI, artillerisierung, grosse sicherheitsrisiken bei der eigenen sicherheit, schadsoftware, workouts, falsches material und generierung Von aktivitäten, sicherheit der hardware, Die ermittlung der technischen prinzipien, der gefahren, der realen fälle usw. hat dazu geführt, dass die branche die beiden wichtigsten mit der einführung Von AI verbundenen herausforderungen noch stärker erkennt: indem sie beispielsweise bestehende bedrohungen wie philanaugmails, schadsoftware und sozialtechnik vergrößert hat; Im weiteren wurden neue bedrohungen erkannt, wie etwa artistische angriffe durch AI und schwere fälschungen.

Der AI wurde zu einem manöver erklärt, mit dem das israelische militär zum ersten mal im gazastreifen gekämpft hat, wie die nachrichtendienste am 10. Februar berichten. Die besorgnis über den einsatz autonomer waffen in der modernen kriegsführung hat geschürt. Diese technik zerstört die drohnen der gegnerischen truppen und ermöglicht es, mithilfe dieser technologien beispielsweise die landkarte des riesigen schiitischen tunnelnetzes der hamas in gaza zu erstellen. Sie sind nur die spitze eines eisbergs, der klingen und militärische bedrohungen bedrohe.

Der bericht teilt mit, dass das AI und die großsprachmodelle selbst mit sicherheitsrisiken einhergehen und dass die bewertung der möglichen auswirkungen der branche noch immer unzureichend sei. Die zehn größten sicherheitsrisiken, die bei großmodellen tankungen, datenunterbrechungen, unzureichenden sandkoffern und nicht zugelassenen sprengsprogrammen zur verfügung gestellt werden, umfassen die veröffentlichung großer gesundheits-apps, OWASP, weltweite organisation für angewandte systemsicherheit. Zudem kann die dadurch entstehende inhaltsmenge aufgrund schlechter informationen gefährlich sein, verheerende folgen für die nationale sicherheit, die öffentliche sicherheit und sogar die persönliche sicherheit haben, was wiederum der dringenden notwendigkeit höchster und positiver reaktionen entspricht.

Wie will AI mit der gefahr umgehen? Der sektor muss dringend verschärft werden, um einen paradigmwechsel bei der sicherheit zu ermöglichen

Der bericht gibt empfehlungen zu ai-bedrohungen aus der perspektive Von gruppen wie sicherheitsindustrie, regulierungsbehörden, regierungsorganisationen und internetnutzern heraus. Der sicherheitssektor muss auch weiterhin seine kapazitätsvorteile nutzen, um die sicherheit der künstlichen intelligenz selbst zu gewährleisten und ihre anwendung aktiv zur absicherung zu nutzen; Dass die aufsichtsinstitutionen anhaltende aufmerksamkeit auf die möglichen risiken und auswirkungen bei AI richten und sie institutionen und regulierungen rechtzeitig unterstützen müssen; Dass die regierungsorganisationen die entwicklungsstrukturen und -lösungen, die dienste zur bewertung der sicherheit und die instrumente zu ihrer erkennung rechtzeitig einsetzen müssen und dass AI auch die erhöhung der sicherheit ausrüsten muss; Wenn benutzer mit den neuesten anwendungen mit künstlicher intelligenz arbeiten, müssen sie ihr sicherheitswissen erweitern, um bessere sicherheitsgewohnheiten zu entwickeln.

Den zunehmend bedrohungen durch cyber-attacken wie AI sowie der AI artistaff gegenüber, behauptet der bericht, dass die AI technologie einen paradigmenwandel im sicherheitsbereich treibe, der die einführung künstlicher cyber-verteidigungsprogramme erfordert. Eine neue generation Von hightech-technologien und großsprachmodellen, die das sicherheitssystem ändern, wird weitreichende auswirkungen auf den geopolitischen wettbewerb und die nationale sicherheit haben, und darum kämpfen, den wettbewerb auf dem gebiet der künstlichen intelligenz zu verstärken, um einen zukunftsorientierten strategischen vorteil zu Erlangen. Die gesamte industrie muss pläne für die entwicklung künstlicher intelligenznetze starten, die auch darauf abzielen, das "defensiveldilemma" mit künstlicher intelligenz zu beheben.

Die sicherheitsexperten k.c., sind der ansicht, dass eine neue, weitreichende technologie entwickelt wurde, die generell dazu neigt, die rolle der technologie kurzfristig zu überschätzen und ihre auswirkungen langfristig zu unterschätzen. Die versuche, mit schweren vorzugreifen, werden gegenwärtig mit misstrauen betrieben, und das mit enormen veränderungen innerhalb Von monaten Oder sogar tagen. Experten weisen darauf hin, dass regulierungsbehörden, sicherheitsbehörden und staatliche behörden stark an acs und big modellen teilhaben müssen, die ein enormes potenzial haben, aber auch vorsichtig die unsicherheiten hinsichtlich ihrer auswirkungen einschätzen und sicherstellen müssen, dass regulierung und steuerung zeitnah funktionieren, und nicht erst mal ausspioniert werden können.