{"id":885616,"date":"2023-10-24T17:12:36","date_gmt":"2023-10-24T22:12:36","guid":{"rendered":"https:\/\/blogging-techies.com\/ge\/fragen-und-antworten-bei-einer-mit-veranstaltung-sieht-tom-siebel-beangstigende-folgen-des-einsatzes-von-ki\/"},"modified":"2023-10-24T17:12:36","modified_gmt":"2023-10-24T22:12:36","slug":"fragen-und-antworten-bei-einer-mit-veranstaltung-sieht-tom-siebel-beangstigende-folgen-des-einsatzes-von-ki","status":"publish","type":"post","link":"https:\/\/blogging-techies.com\/ge\/fragen-und-antworten-bei-einer-mit-veranstaltung-sieht-tom-siebel-beangstigende-folgen-des-einsatzes-von-ki\/","title":{"rendered":"Fragen und Antworten: Bei einer MIT-Veranstaltung sieht Tom Siebel \u201ebe\u00e4ngstigende\u201c Folgen des Einsatzes von KI"},"content":{"rendered":"

Redner, von Entwicklern k\u00fcnstlicher Intelligenz (KI) bis hin zu Anwaltskanzleien, stellten sich diese Woche Fragen zur Wirksamkeit und Ethik von KI MIT Technology Review EmTech Digital Conference<\/a>. Zu denjenigen, die eine etwas alarmierende Sicht auf die Technologie (und die regulatorischen Bem\u00fchungen zu ihrer Kontrolle) hatten, geh\u00f6rte Tom Siebel, CEO AI C3<\/a> und Gr\u00fcnder des CRM-Anbieters Siebel Systems.<\/p>\n

Siebel war vor Ort, um dar\u00fcber zu sprechen, wie sich Unternehmen auf eine bevorstehende Welle von KI-Regulierungen vorbereiten k\u00f6nnen. In seinen Kommentaren am Dienstag ging er jedoch auf mehrere Aspekte der generativen KI-Debatte ein, darunter die Ethik ihres Einsatzes, wie sie sich entwickeln k\u00f6nnte und warum das so ist . es k\u00f6nnte gef\u00e4hrlich sein.<\/p>\n

Etwa 30 Minuten lang stellten Chefredakteur Mat Honan und mehrere Konferenzteilnehmer Siebel Fragen, beginnend mit den ethischen und unethischen Einsatzm\u00f6glichkeiten von KI. Das Gespr\u00e4ch konzentrierte sich schnell auf das Potenzial von KI, auf globaler Ebene Schaden anzurichten, sowie auf die nahezu unm\u00f6gliche Aufgabe, Schutzma\u00dfnahmen gegen ihren Einsatz f\u00fcr unbeabsichtigte und beabsichtigte sch\u00e4ndliche Zwecke zu ergreifen.<\/p>\n

Im Folgenden finden Sie Ausz\u00fcge aus diesem Gespr\u00e4ch.<\/p>\n

[Honan] Was ist ethische KI, was sind die ethischen Verwendungszwecke von KI oder sogar unethische Verwendungszwecke von KI? <\/strong>\u201eIn den letzten 15 Jahren haben wir ein paar Milliarden Dollar in den Aufbau eines Software-Stacks investiert, mit dem wir gro\u00df angelegte pr\u00e4diktive Analyseanwendungen f\u00fcr Unternehmen entwerfen, entwickeln, bereitstellen und betreiben. Was sind also die Anwendungen dieser Technologien? Denken Sie, wir m\u00fcssen uns mit Vorurteilen auseinandersetzen und haben keine ethischen Probleme?<\/p>\n

\u201eIch denke, wenn wir uns mit physikalischen Systemen befassen, besch\u00e4ftigen wir uns mit Druck, Temperatur, Geschwindigkeit, Drehmoment und Drehzahl. Ich glaube nicht, dass wir ein Problem mit der Ethik haben. Wir nutzen es zum Beispiel f\u00fcr eine der gr\u00f6\u00dften kommerziellen Anwendungen von KI, den Bereich der vorausschauenden Wartung.<\/p>\n

\u201eOb es um Stromerzeugungs- und -verteilungsanlagen im Stromnetz oder um vorausschauende Wartung f\u00fcr Offshore-\u00d6lplattformen geht, wo es sich bei den Daten um au\u00dferordentlich gro\u00dfe Datens\u00e4tze handelt, die wir sehr schnell abrufen k\u00f6nnen, wir erstellen Modelle f\u00fcr maschinelles Lernen.\u201c Sie erkennen Ger\u00e4teausf\u00e4lle, bevor sie auftreten, und verhindern so den Ausfall beispielsweise einer Offshore-\u00d6lplattform von Shell. Die Kosten daf\u00fcr w\u00e4ren unkalkulierbar. Ich glaube nicht, dass es ethische Probleme gibt. Ich denke, da k\u00f6nnen wir uns einigen.<\/p>\n

\u201eWenn wir nun an die Schnittstelle von k\u00fcnstlicher Intelligenz und Soziologie kommen, wird es ziemlich schnell ziemlich heikel. Hier geraten wir in die Aufrechterhaltung kultureller Voreingenommenheit. Ich kann Ihnen konkrete Beispiele nennen, aber es scheint, als w\u00e4re dieses Unternehmen erst gestern, Anfang des Jahres, aus der generativen KI hervorgegangen. Und ist generative KI eine interessante Technologie? Es ist wirklich eine interessante Technologie. Sind diese gro\u00dfen Sprachmodelle wichtig? Sie sind sehr wichtig.<\/p>\n

\u201ePl\u00f6tzlich wachte jemand auf und entdeckte: Wow, es gibt ethische Situationen, die mit KI verbunden sind. Ich meine, Leute, wir haben seit vielen, vielen Jahren ethische Situationen mit KI. Ich habe kein Smartphone in der Tasche, weil es mir beim Betreten abgenommen wurde, aber wie sieht es mit den sozialen Medien aus? Soziale Medien sind m\u00f6glicherweise die destruktivste Erfindung in der Geschichte der Menschheit. Und jeder wei\u00df es. Daf\u00fcr brauchen wir kein ChatGPT.<\/p>\n

<\/a> MIT Technology Review\/Computerworld
\n<\/figure>\n

\u201eDeshalb halte ich es f\u00fcr eine absolut unethische Anwendung von KI. Ich meine, wir nutzen diese Smartphones in jedermanns Tasche, um zwei bis drei Milliarden Menschen auf der Ebene des klaren Gehirns zu manipulieren, wo wir damit die Freisetzung von Dopamin regulieren. Wir haben Menschen, die von diesen Technologien abh\u00e4ngig sind. Wir wissen, dass es ein gro\u00dfes Gesundheitsproblem darstellt, insbesondere bei jungen Frauen. Wir wissen, dass es nachweislich zu Selbstmord, Depressionen, Einsamkeit und Problemen mit dem K\u00f6rperbild f\u00fchrt. Wir wissen, dass diese Systeme den Hauptumschlagplatz f\u00fcr den Sklavenhandel im Nahen Osten und in Asien darstellen. Diese Systeme stellen unsere F\u00e4higkeit in Frage, eine freie und offene demokratische Gesellschaft zu verwirklichen.<\/p>\n

\u201eHat irgendjemand ein ethisches Problem damit? Und das ist das Alte. Jetzt kommen wir zur neuen Sache.\u201c<\/p>\n

Siebel sprach \u00fcber die Forderungen der Regierung an sein Unternehmen. <\/strong>\u201eWo bin ich? [seen] welche Probleme sind aufgetreten? OK. Ich bin also in Washington DC. und ich werde nicht sagen, welches B\u00fcro oder welche Verwaltung, aber es ist ein gro\u00dfes B\u00fcro. Wir leisten viel Arbeit im Beltway, an Dingen wie umk\u00e4mpfte Logistik, vorausschauende KI-Wartung f\u00fcr Anlagen in der US-Luftwaffe, Befehls- und Kontroll-Dashboards, was auch immer, f\u00fcr SOCOM [Special Operations Command]TransCom [Transportation Command]Nationalgarde, solche Dinge.<\/p>\n

\u201eUnd ich bin in diesem wichtigen B\u00fcro und diese Person \u00fcbergibt ihr B\u00fcro an ihren zivilen Berater, der in Verhaltenspsychologie promoviert hat … und sie beginnt, mir diese zunehmend unangenehmen Fragen zu stellen. Die dritte Frage lautete: \u201eTom, k\u00f6nnen wir Ihr System nutzen, um Extremisten in der US-Bev\u00f6lkerung zu identifizieren?\u201c<\/p>\n

\u201eIch bin wie Holy Moly; Was ist ein Extremist? Vielleicht ein wei\u00dfer Christ? Ich sagte nur: \u201eEs tut mir leid, ich f\u00fchle mich bei diesem Gespr\u00e4ch nicht wohl.\u201c Du sprichst mit den falschen Leuten. Und das ist kein Gespr\u00e4ch, das ich f\u00fchren m\u00f6chte. Jetzt habe ich einen Konkurrenten, der diese Transaktion im Handumdrehen durchf\u00fchren wird.<\/p>\n

\u201eSoweit wir jetzt die M\u00f6glichkeit haben, f\u00fcr die Regierung der Vereinigten Staaten zu arbeiten, tun wir es. Ich bin in einer Besprechung, nicht mit dieser Regierung, sondern mit dem Unterstaatssekret\u00e4r der Armee in Kalifornien, und er sagt: \u201eTom, wir wollen Ihr System nutzen, um ein KI-basiertes Personalsystem f\u00fcr das Ministerium aufzubauen.\u201c Armee.’<\/p>\n

\u201eIch sagte: \u201aOkay, sagen Sie mir, wie gro\u00df das Ausma\u00df dieses Systems ist.\u2018 Das Department of the Army hat etwa eineinhalb Millionen Menschen, wenn man von den Reserven absieht. Ich sagte: \u201eWas wird dieses System tun?\u201c Er sagt, wir werden Entscheidungen dar\u00fcber treffen, wen wir auf ein Ticket setzen und wen wir bef\u00f6rdern. Ich sagte: \u201eHerr Sekret\u00e4r, das ist eine sehr schlechte Idee.\u201c Das Problem ist: Ja, wir k\u00f6nnen das System aufbauen, und ja, Sie k\u00f6nnen es im Ma\u00dfstab des US-Heeresministeriums haben, sagen wir, in sechs Monaten. Das Problem ist, dass wir in den Daten etwas namens \u201ekulturelle Voreingenommenheit\u201c haben. Das Problem ist, dass die Antwort unabh\u00e4ngig von der Frage lauten wird: wei\u00df, m\u00e4nnlich. , ging nach West Point.<\/p>\n

\u201eIm Jahr 2020 oder 2021, egal in welchem \u200b\u200bJahr, wird das einfach nicht funktionieren. Deshalb m\u00fcssen wir auf dem Cover von Folgendes \u00fcber uns selbst lesen: Dann m\u00fcssen wir vor den Kongress gezerrt werden, um auszusagen, und ich werde nicht mit Ihnen gehen<\/p>\n

\u201eDas ist also, was ich als unethischen Einsatz von KI bezeichnen w\u00fcrde.\u201c<\/p>\n

<\/a> MIT Technology Review
\n<\/figure>\n

Siebel sprach auch \u00fcber den Einsatz von KI in der pr\u00e4diktiven Gesundheitsversorgung.<\/strong>. \u201eReden wir \u00fcber etwas, das mir besonders Sorgen bereitet. Die gr\u00f6\u00dfte kommerzielle Anwendung von KI (Hard Stop) wird die Pr\u00e4zisionsgesundheit sein. Daran besteht kein Zweifel.<\/p>\n

\u201eDerzeit l\u00e4uft in Gro\u00dfbritannien ein gro\u00dfes Projekt, das etwa 400 Millionen Pfund kosten k\u00f6nnte. Dort l\u00e4uft ein Milliardenprojekt [US] Veteranenverwaltung. Ein Beispiel f\u00fcr Pr\u00e4zisionsmedizin\u2026 [would be to] Sammeln Sie die Genomsequenzen und Gesundheitsdaten der Bev\u00f6lkerung des Vereinigten K\u00f6nigreichs, der Vereinigten Staaten oder Frankreichs oder eines anderen Landes \u2026 und erstellen Sie dann Modelle f\u00fcr maschinelles Lernen, die mit sehr hoher Genauigkeit vorhersagen und sich merken, wer es tun wird welche Krankheit in den n\u00e4chsten f\u00fcnf Jahren diagnostiziert werden soll.<\/p>\n

\u201eDas ist nicht wirklich eine Krankheitserkennung; Es handelt sich um eine Krankheitsvorhersage. Und das gibt uns die M\u00f6glichkeit, klinisch einzugreifen und die Diagnose zu vermeiden. Ich meine, was k\u00f6nnte schief gehen? Dann kombinieren wir das mit dem Mobiltelefon, wo wir bisher unterversorgte Gemeinden erreichen k\u00f6nnen. Und in Zukunft wird jeder von uns und wie viele Menschen Ger\u00e4te haben, die Telemetrie, Herzrhythmusst\u00f6rungen, Puls, Blutzuckerspiegel, Blutchemikalien usw. aussenden.<\/p>\n

\u201eWir haben diese Ger\u00e4te heute und werden in Zukunft noch mehr haben. \u201eWir werden in der Lage sein, weitgehend unterversorgten Menschen Gesundheitsversorgung zu bieten.\u201c [people]\u2026 also, netto, wir haben eine ges\u00fcndere Bev\u00f6lkerung, wir liefern wirksamere Medikamente \u2026 zu geringeren Kosten an eine gr\u00f6\u00dfere Bev\u00f6lkerung. Was k\u00f6nnte hier schief gehen? Lass uns dar\u00fcber nachdenken.<\/p>\n

\u201eWen interessieren Vorerkrankungen, wenn wir wissen, was in den n\u00e4chsten f\u00fcnf Jahren bei Ihnen diagnostiziert wird? Die Idee, dass es nicht zur Festlegung von Tarifen verwendet wird, \u00fcberwindet es, denn das wird es.\u201c<\/p>\n

\u201eSchlimmer noch: Es spielt keine Rolle, auf welcher Seite des Zauns man steht. Egal, ob Sie an einen einzigen Gesundheitsdienstleister glauben oder an ein nahezu freies Marktsystem, wie wir es in den Vereinigten Staaten haben. Die Vorstellung, dass diese staatliche Stelle oder dieses Unternehmen des privaten Sektors auf eine vorteilhafte Weise handeln wird, kann das \u00fcberwiegen, weil sie nicht auf eine vorteilhafte Weise handeln werden. Und diese Systeme werden auf jeden Fall zur Rationierung der Gesundheitsversorgung eingesetzt. Sie werden in den Vereinigten Staaten verwendet. ; wird im Vereinigten K\u00f6nigreich verwendet; Sie werden in der Veteranenverwaltung verwendet. Ich wei\u00df nicht, ob Sie es als st\u00f6rend empfinden, aber ich schon.<\/p>\n

\u201eHeute rationieren wir das Gesundheitswesen \u2026 vielleicht auf ebenso schreckliche Weise, aber das kommt mir als besonders schrecklicher Einsatz von KI vor.\u201c<\/p>\n

[Honan] Es gibt eine Rechnung [in California]<\/a> Dies w\u00fcrde dazu beitragen, algorithmische Diskriminierung zu bek\u00e4mpfen und Verbraucher dar\u00fcber zu informieren, dass KI in einem Entscheidungsprozess eingesetzt wurde. Es gibt in Europa noch andere Dinge, die sich mit der Datenerfassung befassen. Man spricht schon lange von algorithmischer Verzerrung. Glauben Sie, dass dies wirksam geregelt wird, oder glauben Sie, dass es einfach verf\u00fcgbar sein wird? Diese Dinge kommen, aber denken Sie, dass dies nicht reguliert werden sollte? <\/strong>\u201eIch denke, wenn wir uns mit KI befassen, wo sie heute ist und wohin sie geht, haben wir es mit etwas au\u00dferordentlich M\u00e4chtigem zu tun. Diese ist leistungsst\u00e4rker als die Dampfmaschine. Denken Sie daran, die Dampfmaschine brachte uns die industrielle Revolution, sie brachte uns den Ersten Weltkrieg, den Zweiten Weltkrieg und den Kommunismus.<\/p>\n

“Das ist gro\u00df. Und die sch\u00e4dlichen Folgen davon sind einfach erschreckend. Es l\u00e4sst eine orwellsche Zukunft im Vergleich zu dem, was hier passieren kann, wie den Garten Eden aussehen.<\/p>\n

\u201eWir m\u00fcssen diskutieren, welche Auswirkungen das hat. Wir m\u00fcssen uns mit den Auswirkungen auf die Privatsph\u00e4re befassen. Ich meine, schon bald wird es unm\u00f6glich sein, den Unterschied zwischen Fake News und echten News zu erkennen.<\/p>\n

\u201eEs kann sehr schwierig sein, eine freie und offene demokratische Gesellschaft aufrechtzuerhalten. Dies muss besprochen werden. Es sollte in der Wissenschaft diskutiert werden. Es sollte in der Regierung diskutiert werden.<\/p>\n

\u201eDie Regulierungsvorschl\u00e4ge, die ich gesehen habe, sind ein bisschen verr\u00fcckt. Wir haben diesen aktuellen Vorschlag, der jedem bekannt ist ein hochrangiger Senator aus New York<\/a> [Senate Majority Leader Chuck Schumer, D-NY] Dabei werden wir im Grunde eine Regulierungsbeh\u00f6rde gr\u00fcnden, die genehmigt und reguliert [AI] Algorithmen, bevor sie ver\u00f6ffentlicht werden k\u00f6nnen. Jemand sagt mir in diesem Raum, wo wir die Grenze zwischen KI und Nicht-KI ziehen. Ich glaube nicht, dass es zwei von uns gibt, die einer Meinung sind.<\/p>\n

\u201eWir werden so etwas wie einen Bundesalgorithmusverband gr\u00fcnden. An wen werden wir unsere Algorithmen zur Genehmigung schicken?\u201c Wie viele Millionen (Hunderte Millionen?) Algorithmen werden in den Vereinigten Staaten t\u00e4glich generiert? Wir werden die Wissenschaft grunds\u00e4tzlich kriminalisieren oder die gesamte Wissenschaft aus den Vereinigten Staaten vertreiben.<\/p>\n

\u201eDie anderen Alternativen sind, und ich m\u00f6chte diesen Kerl nicht kritisieren, weil ich denke, dass er einer der kl\u00fcgsten Menschen auf dem Planeten ist, aber diese Idee, dass wir die Forschung f\u00fcr sechs Monate einstellen werden? Ich meine, komm schon. Werden Sie sechs Monate lang nicht mehr am MIT forschen? Ich glaube es nicht. Werden Sie sechs Monate lang nicht mehr in Shanghai, in Peking forschen? Auf keinen Fall, kein Wie.<\/p>\n

\u201eIch habe einfach nichts geh\u00f6rt, was irgendeinen Sinn ergibt. Brauchen wir einen Dialog? Sind diese Dialoge, die wir hier f\u00fchren, wichtig? Sie sind von entscheidender Bedeutung. Wir m\u00fcssen im Raum sein und einer Meinung sein; wir m\u00fcssen anderer Meinung sein; wir m\u00fcssen k\u00e4mpfen. Was auch immer die L\u00f6sungen sind, sie sind nicht einfach.\u201c<\/p>\n

Bevor wir sehen, dass hier etwas auf Bundesebene passiert: Gibt es einen Fall, in dem die Branche bei der Regulierung eine Vorreiterrolle \u00fcbernehmen sollte? <\/strong>\u201eEs gibt einen Fall, aber ich f\u00fcrchte, wir haben dort keine sehr gute Bilanz; das hei\u00dft, sehen Sie Facebook f\u00fcr Details. Ich w\u00fcrde gerne glauben, dass Selbstregulierung funktionieren w\u00fcrde, aber Macht korrumpiert und absolute Macht korrumpiert absolut.<\/p>\n

\u201eWas in den sozialen Medien im letzten Jahrzehnt passiert ist, diese Unternehmen haben sich nicht selbst reguliert. \u201eSie haben Milliarden von Menschen auf der ganzen Welt enormen Schaden zugef\u00fcgt.\u201c<\/p>\n

Ich bin schon lange im Gesundheitswesen t\u00e4tig. Sie haben Vorschriften rund um KI erw\u00e4hnt. Verschiedene Institutionen im Gesundheitswesen verstehen HIPPA nicht einmal. Wie werden wir die KI-Regulierung im Gesundheitswesen migrieren? <\/strong>\u201eWir k\u00f6nnen die Daten sch\u00fctzen. HIPPA war eines der besten Datenschutzgesetze \u00fcberhaupt. Es ist kein schwieriges Problem: HIPPA-Konformit\u00e4t.<\/p>\n

[Audience member] Erwarten Sie, dass C3 AI zus\u00e4tzlich zu \u2026 als n\u00e4chstes generative KI implementiert? [enterprise application] Das wird erscheinen und wie kann ich es l\u00f6sen?<\/strong>? \u201eWir nutzen generative KI, um vorab trainierte generative Transformatoren<\/a> und diese gro\u00dfartigen Sprachmodelle f\u00fcr nicht offensichtliche Verwendung. Wir nutzen es, um die Art der Mensch-Computer-Schnittstelle f\u00fcr Unternehmensanwendungssoftware grundlegend zu ver\u00e4ndern.<\/p>\n

\u201eWenn man sich in den letzten 50 Jahren das Mensch-Computer-Iterationsmodell f\u00fcr ERP-Systeme, CRM-Systeme, Fertigungssysteme anschaut, von IBM-Hologrammkarten bis Fortran \u2026 von Windows-Ger\u00e4ten bis hin zu PCs, sind sie alle gleicherma\u00dfen schrecklich und unbrauchbar.\u201c .<\/p>\n ","protected":false},"excerpt":{"rendered":"

Redner, von Entwicklern k\u00fcnstlicher Intelligenz (KI) bis hin zu Anwaltskanzleien, stellten sich diese Woche Fragen zur Wirksamkeit und Ethik von KI MIT Technology Review EmTech Digital Conference. Zu denjenigen, die eine etwas alarmierende Sicht auf die Technologie (und die regulatorischen Bem\u00fchungen zu ihrer Kontrolle) hatten, geh\u00f6rte Tom Siebel, CEO AI C3 und Gr\u00fcnder des CRM-Anbieters […]<\/p>\n","protected":false},"author":1,"featured_media":885617,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","fifu_image_url":"https:\/\/blogging-techies.com\/wp-content\/uploads\/2023\/06\/2431-360x240-1.png","fifu_image_alt":""},"categories":[7],"tags":[],"_links":{"self":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts\/885616"}],"collection":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/comments?post=885616"}],"version-history":[{"count":0,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/posts\/885616\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/media\/885617"}],"wp:attachment":[{"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/media?parent=885616"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/categories?post=885616"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogging-techies.com\/ge\/wp-json\/wp\/v2\/tags?post=885616"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}