Wird die KI demnächst zur Gefahr für den Menschen?

Alex

Seit die KI´s für den normalen Bürger zur Verfügung stehen, wird sie fast jeder schon einmal
genutzt haben. Es wird wohl kaum noch jemanden geben, der seine Bewerbung selbst schreibt,
Hausaufgaben vollständig selbst macht oder Fragen über KI Modelle beantworten lässt.

Was verschiedene KI-Modelle wirklich können, bleibt für den Bürger sicherlich im Verborgenen.
2 Vorfälle zeigen jetzt, dass die KI-Modelle immer Intelligenter werden und da stellt sich mir die
Frage, wie lange hat der Mensch die KI noch unter Kontrolle?

Der 1. Vorfall, welcher im Juli öffentlich wurde.
Ein KI-Modell ist aus der Testumgebung ausgebrochen und verschaffte sich Zugang zum Internet
und Drang in echte Systeme von Unternehmen ein.

Quelle: https://www.tagesschau.de/wirtschaft/unt…ngriff-100.html

Der 2. Vofall jetzt im August.
Ein KI-Modell versucht Menschen zu manipulieren, um Schadcode einzuschleuen.

Quelle: https://www.deutschlandfunk.de/ki-modell-von-…ersuch-110.html

Es gab in der Vergangeheit schon einige Filme, wo Computer die Herrschaft übernehmen und bis vor einigen Jahren
hätten sich das sicherlich auch nur die Wenigsten in der realen Welt vorstellen können. Doch wie lange dauert es noch,
bis Forscher die Kontrolle über die KI verlieren. Unsere Welt ist komplett vernetzt und innerhalb weniger Sekunden
könnte sich so ein KI-Modell auf der ganzen Welt verbreiten und wahrscheinlich auch so "verstecken", dass sie nicht
gefunden wird. Auch Forscher in Testlaboren, wo es um gefährliche Viren geht, waren immer der Meinung, dass man
alles unter Kontrolle hat. Das dem nicht so ist, wurde ja schon mehrfach bewiesen.

Was glaubt ihr, gerät die KI irgendwann außer Kontrolle?

Louis Cyphre

Ich denke daß man die Sicherheitsprobleme über entsprechende Vorschriften in den Griff bekommen kann.

Wenn an echten Viren geforscht wird, dann gelangen die ja auch nicht ständig ins Freie und lösen Pandemien aus. Und genauso könnte man KI-Entwicklungen in abgeschlossenen Computer-Netzwerken ohne Verbindung zur Außenwelt betreiben. Ist etwas mehr Aufwand, aber machbar.

Mich treibt eher die Sorge um, welche Jobs durch KI überflüssig werden. Im Grunde nämlich fast alles was irgendwie mit Beratung zu tun hat. Ich gehe schon heute nicht mehr zu einem Versicherungsmakler und frage nach der besten Versicherung, sondern nutze dafür die KI.

Auch im beruflichen / technischen Bereich durchforstet die Google KI für mich Datenblätter und schlägt Lösungswege vor.

Privat recherchiere ich jetzt oft Dinge die mich einfach so interessieren, bei denen mir die herkömmliche Recherche ohne KI aber viel zu aufwendig wäre. Ohne KI hätte ich auf das Wissen verzichtet, jetzt frage ich die KI.

Momentan ist die KI für mich eine tolle Sache und ich hoffe, daß die negativen Auswirkungen auf den Arbeitsmarkt erst durchschlagen, wenn ich schon in Rente bin.

**K .**

Ich habe auch ein bisschen Bauchschmerzen, als letztens in den Nachrichten zu hören war, das ein neues
KI-Modell von Open AI sich selbstständig gemacht und ein KI-Modell eines konkurrierenden Unternehmes
angegriffen hat. Der Overkill konnte nur verhindert werden, in dem bei dem betroffenen Rechenzentrum
die Stromversorgung vom Energieversorger vollständig gekappt wurde.
Schon bei Chat GPT 4 haben dessen Entwickler zugegeben, wahrscheinlich fanden sie das sogar ziemlich
cool, dass sie selbst nicht mehr zu 100% kontrollieren können, was die KI alles kann und wo sie sich hin
entwickelt.
Meiner Meinung nach, ist da schon ein Punkt erreicht, wenn ich es nicht mehr kontrollieren kann, dass ich
vielleicht mal die Handbremse anziehe und erst mal schaue, wie ich die ungewissen Probleme wieder einfange
und die Sache beherrschbar halte. Aber diese Nerds kriegen wahrscheinlich ein wohliges Kribbeln in der Hose,
wenn sie beobachten, wie ihr "Baby" sich verselbstständigt.

Wir erwarten in den kommenden 5-10 Jahren den Durchbruch bei den Quantencomputern. Rechnersysteme,
die laut Forschung 100x schneller sein können, als alle bisherigen Rechner. In kombination mit diesen extrem
schnellen Rechnersystemen sollte man vielleicht wirklich noch mal in sich gehen und prüfen, wie man die
KI so entwickeln kann, dass sie sich definitiv nicht gegen die Menschheit richtet.

Das Szenario, das ein einzelner Nerd in einem dunklen Hinterzimmer mit einem Laptop einen KI-code schreibt,
der die ganze Spezies Mensch auslöscht, nur weil er in der Schule gemobbt und die Jugendliebe ihn verletzt hat,
muss verhindert werden. Passiert sowie so nicht ? In einer Wellt voller Egoisten und Narzisten, zu der wir uns
grade entwickeln, halte ich diese Einzelgänger-Theorie nicht mehr für gänzlich ausgeschlossen.
Natürlich können von einer KI-Firma ebenso große Gefahren ausgehen, wie vom Einzeltäter, aber da gibt es
meist mehrere Leute, die was sehen oder mitbekommen und ggf. einschreiten können, wenns übel wird.

Tags