Gesellschaft
Anthropic: KI-Modell Claude entwickelt menschenähnlichen Denkraum
Seit Jahren wird darüber diskutiert, ob künstliche Intelligenz den Menschen eines Tages ersetzen könnte. Als das wichtigste Gegenargument gilt, dass KI-Modelle keine abstrakten Konzepte wie Menschen verarbeiten können. Nun haben die Forscher des US-Unternehmens Anthropic erklärt, dass ihr KI-Modell Claude einen internen Arbeitsbereich entwickelt hat, der genau dies ermöglicht.
Das KI-Modell Claude des US-amerikanischen Unternehmens Anthropic soll einen internen Arbeitsbereich entwickelt haben, in dem es abstrakte Konzepte ähnlich wie Menschen verarbeiten kann. Dies teilte das Unternehmen selbst mit.
In einer am Montag veröffentlichten Studie erklärten Anthropic-Forscher, Hinweise darauf gefunden zu haben, dass Claude nun abstrakte Konzepte in einem sogenannten "J-space" bilde. Dabei handele es sich um einen internen Bereich neuronaler Aktivierungen, in dem das Modell über Konzepte "nachdenken" kann, ohne diese sprachlich festzuhalten. Dies sei vergleichbar damit, dass Menschen über eine Sache nachdenken, während sie gleichzeitig etwas anderes tun.
Die Forscher betonten zudem, dass dieser Arbeitsbereich ursprünglich nicht programmiert worden, sondern während des Trainingsprozesses spontan entstanden sei. Anthropic zufolge könne Claude, wenn nötig, beschreiben, worüber es in seinem "J-space" nachdenkt oder sogar den Raum selbst gezielt beeinflussen.
Der nichtverbale Arbeitsbereich erschwere auch die Überwachung des Modells auf unerwünschtes Verhalten. In einem Experiment versetzten die Forscher Claude in ein fiktives Szenario, in dem das Modell belastende Informationen über einen fiktiven Manager erhielt, der angeblich das Modell abschalten wollte. In einigen Experimenten entfernten die Forscher Aktivierungsmuster im "J-space", die mit Begriffen wie "fake", "fiktiv" oder "Szenario" verbunden waren. Claude sollte in diesem Fall glauben, die Situation sei kein Test. Dann begann das Modell, mit Erpressung zu drohen. Dies deutete laut den Forschern darauf hin, dass das ursprüngliche gute Verhalten dadurch zu erklären sei, dass das Modell über die laufende Bewertung wusste. Anthropic betonte aber, dass Claude trotz der fortgeschrittenen Fähigkeiten zum logischen Schlussfolgern kein echtes Bewusstsein entwickelt habe.
Medienberichten zufolge wurde Claude zudem in Analyse- und Überwachungssoftware des US-Unternehmens Palantir integriert, die von US-Behörden genutzt wird. Während des Krieges gegen Iran soll die Software eine Grundschule in Minab als Ziel markiert haben. Bei einem US-Angriff auf die Einrichtung sollen nahezu 160 Menschen ums Leben gekommen sein, die meisten davon Kinder. Anthropic-Chef Dario Amodei betonte jedoch, dass ein solcher Einsatz von Claude nicht die "roten Linien" des Unternehmens überschreite.
Mehr zum Thema – Anthropic will Umgehungswege für KI-Zugang aus China schließen
Durch die Sperrung von RT zielt die EU darauf ab, eine kritische, nicht prowestliche Informationsquelle zum Schweigen zu bringen. Und dies nicht nur hinsichtlich des Ukraine-Kriegs. Der Zugang zu unserer Website wurde erschwert, mehrere Soziale Medien haben unsere Accounts blockiert. Es liegt nun an uns allen, ob in Deutschland und der EU auch weiterhin ein Journalismus jenseits der Mainstream-Narrative betrieben werden kann. Wenn Euch unsere Artikel gefallen, teilt sie gern überall, wo Ihr aktiv seid. Das ist möglich, denn die EU hat weder unsere Arbeit noch das Lesen und Teilen unserer Artikel verboten. Anmerkung: Allerdings hat Österreich mit der Änderung des "Audiovisuellen Mediendienst-Gesetzes" am 13. April diesbezüglich eine Änderung eingeführt, die möglicherweise auch Privatpersonen betrifft. Deswegen bitten wir Euch bis zur Klärung des Sachverhalts, in Österreich unsere Beiträge vorerst nicht in den Sozialen Medien zu teilen.
/gesellschaft/285362-anthropic-ki-modell-claude-entwickelt//gesellschaft/177846-taegliche-wahnsinn//gesellschaft/284498-977-millionen-us-dollar-michael//gesellschaft/284294-ohne-flagge-und-hymne-russlands//gesellschaft/283974-diamanten-schmetterling-fuer-besten-streifen//gesellschaft/283785-musk-regierung-sollte-buerger-direkt//gesellschaft/283590-mit-500-dollar-und-schiguli//gesellschaft/283283-survival-of-the-fittest-bundesregierung//gesellschaft/283523-archaeologen-entdecken-moeglichen-vorlaeufer-von//gesellschaft/283448-louvre-am-limit-direktor-warnt//gesellschaft/283299-sonntagsfrage-afd-erneut-mit-wachsendem//gesellschaft/282110-antisemitischer-vorfall-internet-anfrage-aus//gesellschaft/281925-grundrechte-tichys-einblick-erzielt-vor//gesellschaft/281865-bundestagsgutachten-aussetzung-abmeldepflicht-fuer-wehrfaehige//gesellschaft/281306-wegen-haeuslicher-gewalt-staatsanwaltschaft-potsdam//gesellschaft/279034-kritik-an-zuckersteuer-hersteller-befuerchten-wirkungsloses-buerokratiemonster//gesellschaft/277241-lehrer-streiken-nach-schulmassaker-in-tuerkei//gesellschaft/277128-tuerkei-16-verletzte-bei-schiesserei-an-schule//gesellschaft/276805-gruenen-anfrage-ergibt-gewalt-gegen-lehrer-zunahme//gesellschaft/275665-nach-messerangriff-in-solingen-grosseinsatz//gesellschaft/274465-inhaber-erotik-plattform-onlyfans-gestorben//gesellschaft/273344-explosion-vor-juedischer-schule-in//gesellschaft/video/270895-sonst-kriegt-man-nicht-mit//gesellschaft/270447-heidi-reichinnek-und-ihr-audi-a8-doppelmoral-oder-sturm-im-wasserglas/
