Ende August gab Motherboard bekannt, dass Microsoft Sprachaufzeichnungen von Xbox-Benutzern mit Auftragnehmern geteilt hat, um die Funktionalität seines auf künstlicher Intelligenz basierenden Sprachassistenten zu verbessern. Ein anderer Bericht Anfang dieses Monats enthüllte, dass Microsoft Skype Recordings und Cortanas Sprachbefehle mit Auftragnehmern veröffentlicht hat, um die Dienste der Chat-Plattform zu verbessern. Einige der Aufnahmen enthielten intime Inhalte.
Microsoft ist nur eines von mehreren Unternehmen, die Mitarbeiter beschäftigen, um benutzergenerierte Daten abzufangen und mit Anmerkungen zu versehen. Ähnliche Programme wurden in den letzten Monaten bei Google entdeckt, Amazon, Facebooke Apple, das sich als Anwalt für die Privatsphäre der Nutzer etabliert hat.
Da sprachgesteuerte Assistenten und Chatbots immer beliebter werden, stehen Technologieunternehmen vor einer schwierigen Herausforderung: Ihre Algorithmen für künstliche Intelligenz sind nicht auf die Komplexität der menschlichen Sprache ausgelegt und können deren Bedeutung im Allgemeinen nicht verstehen die Befehle und Phrasen seiner Benutzer
Derzeit besteht die einzige Lösung darin, Mitarbeiter einzustellen, die diese KI-Algorithmen in die richtige Richtung lenken. Im Allgemeinen müssen diese Mitarbeiter die Familiengespräche der Benutzer anhören, um sie zu transkribieren und aufzuschreiben.
Die Herausforderung, Sprache zu verstehen.
Sprachassistenten wie Alexa, Siri und Cortana verdanken ihre Fähigkeiten den Fortschritten beim Deep Learning, einem Bereich der künstlichen Intelligenz, der in den letzten Jahren sehr populär geworden ist. Deep-Learning-Algorithmen sind besonders nützlich, um Muster zu finden und Informationen zu klassifizieren.
Durch die Bereitstellung eines Deep-Learning-Algorithmus mit Millionen von Sprachaufzeichnungen und zugehörigen Texten können Sie neue Audioclips mit sehr hoher Präzision transkribieren. Deep Learning ist auch ein guter Prädiktor: Wenn Sie einen KI-Algorithmus mit einem großen Textkörper trainieren, entwickeln Sie komplexe mathematische Darstellungen verschiedener Wortketten und können Aufgaben wie die automatische Satzvervollständigung ausführen.
Deep Learning hat jedoch Schwierigkeiten, die Bedeutung von Wörtern und Phrasen zu verstehen, eine Aufgabe, die mit reiner Mathematik und Statistik nicht gelöst werden kann.
“Spracherkennung und natürliches Sprachverständnis scheinen ähnliche Probleme zu sein, aber sie sind völlig unterschiedlich”, sagte Gary Marcus, Kognitionswissenschaftler, Gründer und CEO von Robust.AI. “Mit der Spracherkennung haben Sie eine begrenzte Anzahl von Silben und Phonemen in Ihrer Sprache und versuchen, eine Audiosequenz in etwas zu übersetzen, das zu einer sehr kleinen Gruppe von Kategorien gehört.”
Die englische Sprache enthält Zehntausende häufig verwendeter Wörter, und im Zeitalter von Big Data finden Sie leicht Millionen von Beispielen, mit denen Sie Deep-Learning-Modelle trainieren können. Aber Sätze zu analysieren und ihre Bedeutung zu interpretieren, ist ein ganz anderes Unterfangen. Es gibt zahlreiche mögliche Sätze mit jeweils klarer Bedeutung. Und die Bedeutung der Wörter hängt davon ab, wo sie sich in einem Satz befinden und was ihnen vorausgeht oder folgt.
„Mit Ausnahme einiger kurzer Sätze sind fast alle Sätze, die Sie hören, original. Sie haben keine direkten Daten darüber, und das bedeutet, dass Sie ein Argumentations- und Verständnisproblem haben “, sagt Marcus. „Techniken, die gut darin sind, Dinge zu kategorisieren und sie vertrauten Themen zuzuordnen, sind dafür einfach nicht ausreichend. Das Verstehen der Sprache verbindet das, was Sie bereits über die Welt wissen, damit. Bringen Sie mit, was andere Leute versuchen. mach mit den Worten, die du sagst. “
In seinem neuen Buch AI Restart (mit Ernest Davis, Professor an der New York University) erklärt Marcus einige der Herausforderungen, denen sich die zeitgenössische KI bei der Entschlüsselung der Bedeutung der menschlichen Sprache gegenübersieht. Eines der Dinge, die wir für selbstverständlich halten, ist das allgemeine Wissen über die Welt, über die jeder von uns verfügt, und wie wir dieses Wissen nutzen, um die Mehrdeutigkeiten der gesprochenen und geschriebenen Sprache aufzudecken.
Tägliche Gespräche sind voller Unklarheiten. Betrachten Sie zum Beispiel diesen Satz, den Marcus und Davis in ihrem Buch untersuchen: “Elsie hat versucht, mit ihrer Tante am Telefon zu sprechen, aber sie hat nicht geantwortet.” Dies ist ein einfacher Satz. Es enthält jedoch auch einige Unklarheiten, die Sie als Person leicht lösen können. Wenn Sie den Satz hören, werden Sie sofort wissen, dass “kommunizieren” “kommunizieren” und nicht “physisch kommunizieren” bedeutet, “anrufen” bedeutet “anrufen” und nicht “physisch anrufen” und “sie” bezieht sich auf Elsies Tante und nicht auf En Elsie, das sind alles Schlussfolgerungen, die Sie leicht ziehen können, weil Sie wissen, was ein Telefon ist, wofür es verwendet wird und wie man einen Anruf tätigt.
Der endlose Trainingszyklus
Aufgrund des Mangels an gesundem Menschenverstand und Wissen in der Welt haben Technologieunternehmen keine andere Wahl, als ihre KI-Modelle mit immer mehr Beispielen zu trainieren, in der Hoffnung, dass sie irgendwann alle Möglichkeiten finden, um zu sagen, was sie tun. AI. – Teilnehmer müssen tun. Aus diesem Grund benötigen sie die Hilfe von häufig entfernten und schlecht bezahlten Mitarbeitern, um die Leistung ihrer Algorithmen für künstliche Intelligenz zu bewerten oder Benutzerdatensätze zu transkribieren und zu kommentieren, die Algorithmen für künstliche Intelligenz nicht entschlüsseln können.
Angesichts der endlosen Möglichkeiten, wie Menschen Dinge ausdrücken können, wird mehr Training eine Pflasterlösung sein. Es wird immer Diskrepanzen geben, Szenarien, für die die KI nicht trainiert wurde; und die menschliche Sprache ist dynamisch und entwickelt sich ständig weiter. All dies erfordert mehr Schulung, was bedeutet, dass Sie nach Ihren privaten Gesprächen mehr Geschichten von Remote-Mitarbeitern hören.
“Die Schwäche der heutigen Technologie besteht darin, dass sie viele Informationen verbraucht, insbesondere offene Fragen wie das Verständnis der natürlichen Sprache. Unternehmen sind daher verzweifelt, diese Informationen zu erhalten”, sagt Marcus. “Ich denke nicht, dass es dein Problem wirklich löst. Es wird ein wenig helfen, aber es wird nicht helfen. “
Ohne die Möglichkeit, gesunden Menschenverstand und Grundwissen in Deep-Learning-Algorithmen zu integrieren, kann das Problem nicht kurzfristig behoben werden. Da Technologieunternehmen weiterhin Benutzerdaten sammeln und mit Anmerkungen versehen, um ihre Algorithmen für künstliche Intelligenz zu trainieren, wirken sich Datenschutzanwälte und mögliche rechtliche Schritte der Datenschutzbehörden auf sie aus. Infolgedessen haben diese Unternehmen ihre Datenerfassungs- und Freigabeprogramme geschwächt und umstrukturiert, ohne sie zu unterbrechen.
Ende August entschuldigte sich Apple auf seiner Website für die Bereitstellung von Siri-Sprachbefehlen für Auftragnehmer. Das Unternehmen versprach, dass Personenakten nur zu Schulungszwecken verwendet würden, wenn sie sich für das Evaluierungsprogramm entschieden hätten. Google hat sein Evaluierungsprogramm in Europa eingestellt, wo die Datenschutzbestimmungen strenger sind, in anderen Bereichen bleibt das Programm jedoch unerschütterlich. Microsoft hat seine Datenschutzrichtlinie aktualisiert, um zu klären, welche Human Service Provider Ihre Stimme hören können. Amazon hat sein Programm geändert, um Benutzern die Möglichkeit zu bieten, das Testprogramm zu deaktivieren. Dies wird von vielen Benutzern ignoriert oder nicht erkannt.
Langfristig glaubt Marcus, dass wir neue Perspektiven für die KI brauchen: „Wir müssen mehr über KI forschen. Dies bedeutet, dass wir eine Kultur, die hauptsächlich aus Daten und Mathematik besteht, in eine Kultur verlagern, in der andere auch Ideen aus anderen Bereichen wie der Psychologie einbeziehen. ” , Philosophie und Linguistik, die sich intensiv mit der Funktionsweise des menschlichen Geistes befassen und möglicherweise zu einem umfassenderen Satz von Konstruktionstechniken für künstliche Intelligenz führen als die derzeitige. “
