Zwei führende japanische Unternehmen warnen: „Die soziale Ordnung könnte im Zeitalter der künstlichen Intelligenz zusammenbrechen“

Japans größtes Telekommunikationsunternehmen und die größte Zeitung des Landes forderten eine rasche Gesetzgebung zur Eindämmung generativer künstlicher Intelligenz, da Demokratie und soziale Ordnung zusammenbrechen könnten, wenn KI unkontrolliert bleibt.

Das Manifest der japanischen Unternehmen wies zwar auf die potenziellen Vorteile generativer KI bei der Verbesserung der Produktivität hin, vertrat jedoch insgesamt eine skeptische Haltung gegenüber der Technologie. Ohne Einzelheiten zu nennen, hieß es, KI-Tools hätten bereits begonnen, die Menschenwürde zu verletzen, da die Tools manchmal darauf ausgelegt seien, die Aufmerksamkeit der Benutzer ohne Rücksicht auf Moral oder Genauigkeit zu erregen. Wenn KI nicht eingeschränkt werde, „könnten im schlimmsten Fall Demokratie und soziale Ordnung zusammenbrechen und Kriege zur Folge haben“, hieß es im Manifest. Japan solle als Reaktion darauf unverzüglich Maßnahmen ergreifen, darunter Gesetze zum Schutz von Wahlen und der nationalen Sicherheit vor dem Missbrauch generativer KI. Es gibt eine globale Initiative zur Regulierung von KI, wobei die Europäische Union eine Vorreiterrolle einnimmt. Das neue Gesetz der EU fordert die Hersteller der leistungsstärksten KI-Modelle auf, diese Sicherheitsbewertungen zu unterziehen und die Aufsichtsbehörden über schwerwiegende Vorfälle zu informieren. Außerdem soll der Einsatz von KI zur Emotionserkennung in Schulen und am Arbeitsplatz verboten werden. Auc…  h die Biden-Regierung verstärkt die Aufsicht. Im vergangenen Oktober rief sie Notstandsbefugnisse der Bundesregierung in Anspruch, um große KI-Unternehmen zu verpflichten, die Regierung zu benachrichtigen, wenn sie Systeme entwickeln, die eine ernste Gefahr für die nationale Sicherheit darstellen. Die USA, Großbritannien und Japan haben jeweils staatliche KI-Sicherheitsinstitute eingerichtet, um bei der Entwicklung von KI-Richtlinien zu helfen. Dennoch haben die Regierungen demokratischer Länder Schwierigkeiten herauszufinden, wie sie KI-gestützte Meinungsäußerung, etwa in sozialen Medien, regulieren können, da die Meinungsfreiheit durch die Verfassung und andere Bestimmungen geschützt wird. NTT und Yomiuri gaben an, ihr Manifest sei durch die Sorge um den öffentlichen Diskurs motiviert. Die beiden Unternehmen gehören zu den einflussreichsten Politikern Japans. Die Regierung besitzt immer noch etwa ein Drittel von NTT, dem ehemaligen staatlichen Telefonmonopolisten. Yomiuri Shimbun, das Branchenangaben zufolge morgens eine Auflage von etwa sechs Millionen Exemplaren hat, ist Japans meistgelesene Zeitung. Unter dem verstorbenen Premierminister Shinzo Abe und seinen Nachfolgern hatte die konservative redaktionelle Linie der Zeitung großen Einfluss darauf, die regierende Liberaldemokratische Partei dazu zu drängen, die Militärausgaben zu erhöhen und das Bündnis des Landes mit den USA zu vertiefen.

Die beiden Unternehmen sagten, ihre Führungskräfte hätten in einer von Forschern der Keio-Universität geleiteten Studiengruppe seit letztem Jahr die Auswirkungen der generativen KI untersucht.