Wie gefährlich ist KI

Ich verstehe deinen Zusammenhang aus dem verlinkten Artikel mit Regierung und Militär nicht keines davon wird im Artikel erwähnt oder angedeutet. Und was genau meinst du mit "gefährlich"?

Das Technologie immer von allen Akteuren benutzt wird ist normal und wenn es militärische Einsatzzwecke für eine Bildgenerierungs-KI (ich verstehe echt nicht was für welche das sein sollen) gibt, dann wird das auch genutzt.

Quote from Acair

in hardware einbauen ? was kann das bedeuten ?

Zitat aus deinem verlinkten Artikel:

Woran Midjourney mit seinem Hardware-Projekt genau arbeitet, ist noch geheim. Nur der Codename ist bekannt: Midjourney Orb . Spekulationen zufolge könnte es sich dabei um eine speziell für KI-Künstler entwickelte Steuerkonsole handeln, die Prompts als Spracheingaben verarbeiten, Bilder und Objekte mit 3D-Kameras scannen kann und mit der generierte Bilder, Videos und 3D-Objekte durch Handgesten manipuliert und verändert werden können. Ähnliche Technologien gibt es bereits.

Ich meine was soll es schon bedeutet, es wir halt irgendein Gadget das KI kann.

Es gibt doch schon viele KI-Gadgets wie der Rabbit R1, den AI Pin und selbst jede neuere Apple Watch und auch unzählige Smartphones 🤷‍♂️ warum genau das nun gefährlich ist verstehe ich nicht.

Wie zum ersten Mal die Eisenbahn fuhr wurde auch behauptet das es gefährlich sei.... aus Unwissenheit.

Quote from Acair

das kannst du nicht vergleichen
die eisenbahn fährt weiter aber in zukunft mit KI -- ich werde mein leben nicht der KI geben

Dann bleibt Dir irgendwann nur noch die Wellblechhütte im Outback!

Quote from Acair

wenn es so seien soll
viele bäume viel grün ein see und die hütte ... ja ich nehme sie

Ein paar Hühner noch, ne Angel, ein Garten … Coole Idee, ich komme mit.

Quote from Manny_K

Dann bleibt Dir irgendwann nur noch die Wellblechhütte im Outback!

Den Aluhut bitte nicht vergessen #/Scherz

Wie mit so vielem, in den verkehrten Händen mit dem verkehrtem Willen dahinter, sicherlich gefährlich.

Mir schmeckt da auch so einiges was denkbar, möglich wäre mal so garnicht.

Eine Zeit nun wo Terminator nicht mehr weit ist und es gibt aktueller Fiktion dazu, ein Spiel mit ner fetten Story, wirklich gut gemacht.

Wo Androiden einen eigenen Willen entwickeln, Rechte wie Menschen wollen, "weil sie sich wie Menschen fühlen und so identifizieren" ...

mfG

Was bleibt eigentlich von der Angst übrig, wenn man Terminator und alles andere aus dem Science Fiction Bereich weglässt?

Filme wie z.B. Blade Runner oder Minority Report berufen sich darauf, als Basis Philip K. Dick Kurzgeschichten zu haben. Liest man sich diese Bücher durch fehlt in den Filmen z.B. jeglicher menschliche Faktor. Sprich die Kurzgeschichten und Bücher von Dick sind ausnahmslos auf den Menschen in der Zukunft ausgelegt. Die Filme hingegen nehmen nur einen Feind ins Visier. Im Film I, Robot frage ich mich immer, warum sollte das Militär einen Roboter bauen, der sich aussuchen kann, die drei Gesetze zu befolgen oder nicht. Warum sollte das Militär eine Moral oder einen Ethischen Kompaß in Soldaten wollen, was seit je her das Problem von Soldaten ist, im Auge der Befehlshaber.

Es gibt inzwischen auch Berichte und Bücher, die aufzeigen, dass die Science Fiction längst von der Wirklichkeit überholt wurde. Sprich der Mensch ganz anders mit Technik umgeht. Es gibt Parallelen zu einigen Büchern wie 1984, allerdings gilt das nicht für demokratische Systeme. Und von Aussagen von Orwell weiß man, er hat es so düster dargestellt, wie es nur ging um Angst zu machen, um genau diese Reaktion zu bekommen. Doch die Geschichte hat grundsätzlich gezeigt, dass selbst Bücher wie "Das Kapital" nich vollends darstellen konnten, was wirklich umgesetzt wurde.

KI sehe ich nur dann kritisch, wenn sie missbräuchlich genutzt wird. Dazu muss es dann aber auch erstmal so sein und ein Staat sollte Zeit bekommen, entsprechende Gesetze zu schaffen. Und das Argument, dass man ja die Geschwindigkeit von Maschinen nicht kompensieren kann, gehört in den Filmbereich.

In den 60ern träumten Hippies und Techjünglinge davon, dass das Internet DAS große Ding werden wird und sie träumten weiter, dass wir alle dort irgendwein einziehen würden. Facebook scheitert gerade grandios mit diesem Plan. Und selbst wenn sie es schaffen sollten, es wird wohl etwas anders aussehen, als sich die Menschen das damals vorgestellt haben.

Mythen und Bilder gehören ins Museum oder in den TV. Was aber bleibt, wenn man den von josefine so scherzhaft erwähnten Aluhut abnimmt? Was ist Fakt? Wenn also eine Angst besteht, wie genau beschreibt sich diese?

Die Frage ist ja bei allem Neuen, habe ich die Chance die Nutzung selbst irgendwie zu steuern. Oder kann ich zu mindestens sehen, was z.B. die KI auf meiner Hardware & Software so treibt. Und vor allem muss man sich mit Neuheiten auch beschäftigen und nicht gleich immer Sagen das ist schlimm oder das ist super - ein bisschen Skepsis ist immer wichtig!

Quote from StephanR

Die Frage ist ja bei allem Neuen, habe ich die Chance die Nutzung selbst irgendwie zu steuern. Oder kann ich zu mindestens sehen, was z.B. die KI auf meiner Hardware & Software so treibt. Und vor allem muss man sich mit Neuheiten auch beschäftigen und nicht gleich immer Sagen das ist schlimm oder das ist super - ein bisschen Skepsis ist immer wichtig!

Das zum Beispiel sehe ich genau so. Ich hätte gerne überall die Entscheidungsmöglichkeit, sagen zu dürfen: Will ich nicht! Und dann soll es auch bitte nicht genutzt werden. Da sehe ich eher die Rechtssprechung in der Pficht, die oft sehr langsam agiert.

Quote from mitleser

Ich halte mich Grundsätzlich ausser im engsten Familien Freundeskreis aus allen Diskussion die einen "politischen,religiösen.philosophischen" Inhalt haben raus auch aus Gründen des Berufes....

Genauso wie aus Neid Gesprächen die als Inhalt haben. "mein Haus,Auto,Boot,Kinder,Geld,Urlaub usw usw"!

Das würde mir natürlich auch fern liegen, denn das ist nunmal auch Deine privat persönliche Angelegenheit

Volker Pispers (ehemaliger Kabarettist) sagte mal sinngemäß einen schicken Gedanken: Wovor haben wir Angst? Wir können leider unsere Welt nicht genug absichern, um uns vor allem zu schützen. Betrifft leider auch Anschläge usw. Aber sollte man nicht wirklich etwas konkretes haben, bevor man etwas verdammt?

Selbstfahrende Autos zum Beispiel. Solange auch nur ein Individuum, also Mensch durch die Gegend f#hrt, wäre ich da sehr dagegen.

Quote from kreideland

Das zum Beispiel sehe ich genau so. Ich hätte gerne überall die Entscheidungsmöglichkeit, sagen zu dürfen: Will ich nicht! Und dann soll es auch bitte nicht genutzt werden. Da sehe ich eher die Rechtssprechung in der Pficht, die oft sehr langsam agiert.

Ich fürchte die KI wird irgendwann so in den Alltag integriert sein, dass es Teilweise gar keine Alternativen mehr gibt.

Die ganzen aktuellen Tools und Dinge wie Copilot+ sind ja zunächst für Windows ausgelegt. Daher antworte ich mal aus Sicht der Windows-Nutzer:

Was genau sollen denn die Folgen von KI auf einem System sein? Windows installiert ohne Rückfrage im Hintergrund verschiedene Updates, erweitert Windows um Funktionen, ohne dies vorab zu kommunizieren und sammelt Daten darüber, welche Apps ich wann starte und was ich selbst installiere. Da werden automatisch neue Signaturen ins UEFI geschrieben und Dual-Boot-Rechner laufen nicht mehr.

Menschen haben sich Avast "zur Sicherheit" installiert und über das Jumpshot Programm hat Avast dann Daten auf den Rechnern der Nutzer gesammelt und an Google und Microsoft verkauft. Besuchte Webseiten wurden "gepetzt", Online-Kaufgewohnheiten, usw

Norton hat Cryptominer in seine Sicherheitssoftware eingebaut und die Geräte seiner Nutzer ohne deren Wissen als Miner missbraucht.

CCleaner war zu meiner Zeit ein sehr beliebtes Tool. Das wurde an Avast verkauft und die haben Spyware integriert. Es wurde erfasst, was alles installiert ist, welche Hardware, Nutzerverhalten, usw

Zoom hat Corona voll ausgenutzt und während der unzähligen Meetings alles an Daten gesammelt und u.A. an Facebook weitergegeben.

Stichwort "Lenovo Superfish" - ganz fiese Geschichte.

HP hatte in seinen Audio-Treibern Keylogger eingebaut, die schön alles auf dem System aufgenommen haben. Upsi, da hat wohl jemand "Aufnahmen" falsch verstanden.

Intel hat eine Technik namens Intel Management Engine eingebaut. Eine Art Überwachungschip, der außerhalb der eigentlichen CPU auf dem Board verbaut ist und tief eindringen bzw weitreichende Überwachungsrechte erhalten hat. Das Teil kann von außerhalb auf alles zugreifen.

Killer Networking: Die sammeln deine Nutzerdaten und geben sie weiter. Deren eigentlicher Zweck sind Netzwerk-Geräte, die angeblich die Spielleistung verbessern sollen, indem Games priorisiert werden. Dabei haben die dann mal schön alles gescannt. Natürlich nur, um die Netzwerkleistung optimal anpassen zu können. Man muss ja wissen, was da so alles gesendet wird, damit man priorisieren kann.

Samsung Magician: Das System sammelt Informationen darüber, wie du eine SSD von Samsung verwendest und übermittelt Infos zu deinen Laufwerken an Samsung.

Original Drucksoftware von fast allen großen Anbietern, die über reine Treiber hinaus geht. Meistens muss man für Drucker gar keine Treiber mehr installieren, da Windows das alleine macht. Installiert man die Software der Hersteller, sind da Netzwerktools enthalten, "Features" die administrative Rechte benötigen, usw

Wenn ihr nicht unbedingt pi-hole oder andere Alternativen (bevorzugt mit unbound) nutzt, protokolieren Telekom, Vodafone und Co sämtliche Webseiten die man aufruft und falls ein Programm Online-Funktionen wie Update-Check nutzt, auch wann ihr diese Programme nutzt. Die Telekom "sieht" sämtliche Bilder die ihr aufruft, welche Webseiten ihr für Downloads nutzt, welche Server ihr im Usenet verwendet, usw. Alles über so etwas popeliges wie DNS.

Menschen installieren DriverBooster, DriverEasy und andere Tools mit maximalen Rechten.

..und dann wird davor gewarnt, dass es gefährlich sein könnte, KI-Tools auf dem Rechner zu haben. Das Ganze habe ich jetzt natürlich bewusst etwas provokativ formuliert. Aber was genau soll solchen Menschen denn da noch geschehen?

Ich nutze ChatGPT und frage dort nach Scripten, Allgemeinwissen, Ideen, Anleitungen, etc und es funktioniert super. Ich glaube, dass von jedem unbedarften Nutzer mit einem Windows-PC mehr "Gefahr" ausgeht, als von einer KI, wie wir sie heute kennen.

Selbst wenn KI irgendwann noch tiefer im System integriert wird, sehe ich da trotzdem keine Gefahr. Denn wieso sollte man KI zum Missbrauch auf einem System einpflanzen, wenn man die meisten Systeme doch sowieso schon kontrollieren kann. Microsoft hat doch im Prinzip so oder so schon vollen Zugriff auf Windows und ob da jetzt auf deren Server eine KI hinter sitzt oder nicht bei einem Zugriff, kann doch eh niemand sagen.

Wenn auf einem Control-Server plötzlich KI läuft, die dann trotzdem auf vorhandene "dumme" Botnets Zugriff hat, ist es völlig unerheblich, ob die infizierten Systeme dumm, oder KI-injiziert zu Zombies wurden.

Ich glaube, die Situation ist - besonders unter Windows - jetzt schon so schlimm, dass ein KI-Einsatz auf diesen Systemen es einfach nicht mehr schlimmer machen kann. Für mich persönlich ist Windows worst case und das macht eine KI dann auch nicht mehr "worster"