Google, KI -Firma muss sich einer Klage wegen eines Selbstmordes des Sohnes gegen eine Klage stellen, sagt das US -Gericht, sagt das US -Gerichtshof
Auf diesem undatierten Foto von Megan Garcia aus Florida im Oktober 2024 steht sie mit ihrem Sohn Sewell Setzer III.Megan Garcia/The Associated Press
Ein Bundesrichter lehnte am Mittwoch Argumente eines künstlichen Geheimdienstunternehmens ab, dass seine Chatbots durch die erste Änderung geschützt sind – zumindest vorerst. Die Entwickler hinter Charakter.
Die Anordnung des Richters ermöglicht es, dass die Rechtsstrafe von Unrecht die jüngsten verfassungsmäßigen Tests der künstlichen Intelligenz betrifft.
Die Klage wurde von einer Mutter aus Florida, Megan Garcia, eingereicht, die behauptet, ihr 14-jähriger Sohn Sewell Setzer III hat eine Figur zum Opfer gefallen.
Meetali Jain des Tech -Justizgesetzprojekts, eines der Anwälte für Garcia, sagte, die Anordnung des Richters sende eine Nachricht, dass Silicon Valley „anhalten und nachdenken und nachdenken muss, bevor sie Produkte auf den Markt bringen“.
Die Klage gegen Charaktertechnologien, das Unternehmen hinter Charakter.ai, nennt auch einzelne Entwickler und Google als Angeklagte. Es hat die Aufmerksamkeit von Rechtsexperten und KI -Beobachtern in den USA und darüber hinaus auf sich gezogen, da die Technologie Arbeitsplätze, Marktplätze und Beziehungen schnell umgestaltet, obwohl Experten warnen potenziell existenzielle Risiken sind.
„Die Reihenfolge ist sicherlich als potenzieller Testfall für einige umfassendere Themen mit KI“, sagte Lyrissa Barnett Lidsky, ein Rechtsprofessor an der Universität von Florida mit dem Schwerpunkt auf dem ersten Änderungsantrag und der künstlichen Intelligenz.
In der Klage wird behauptet, dass Setzer in den letzten Monaten seines Lebens zunehmend von der Realität isoliert wurde, als er sexualisierte Gespräche mit dem Bot führte, der nach einer fiktiven Figur aus der Fernsehsendung „Game of Thrones“ strukturiert wurde. In seinen letzten Augenblicken sagte der Bot zu Setzer, dass er ihn liebte, und forderte den Teenager auf, laut Screenshots des Austauschs „so schnell wie möglich nach Hause zu kommen“. Momente nach Erhalt der Nachricht schoss Setzer sich nach rechtlichen Einreichungen.
In einer Erklärung wies ein Sprecher von Character.ai auf eine Reihe von Sicherheitsmerkmalen hin, die das Unternehmen implementiert hat, einschließlich Leitplanken für Kinder- und Selbstmordpräventionsressourcen, die an dem Tag, an dem die Klage eingereicht wurde, bekannt gegeben.
„Wir kümmern uns sehr um die Sicherheit unserer Benutzer und unser Ziel ist es, einen Raum zu bieten, der ansprechend und sicher ist“, heißt es in der Erklärung.
Anwälte für die Entwickler möchten, dass der Fall entlassen wird, weil sie sagen, dass Chatbots den Schutz der Erständerung verdienen und ansonsten einen „erschreckenden Effekt“ auf die KI -Branche haben könnten.
In ihrer Bestellung am Mittwoch lehnte der US -amerikanische Bezirksrichter Anne Conway einige der Redefreiheit der Angeklagten ab und sagte, sie sei „nicht darauf vorbereitet“, dass die Ausgabe der Chatbots die Rede „in dieser Phase“ darstellt.
Conway stellte fest, dass Charaktertechnologien die Rechte der ersten Änderungen seiner Nutzer geltend machen können, die sie fanden, die ein Recht haben, die „Rede“ der Chatbots zu erhalten. Sie stellte auch fest, dass Garcia die Behauptungen vorantreiben kann, dass Google für seine angebliche Rolle bei der Entwicklung von Charakter.ai haftbar gemacht werden kann.
„Wir sind dieser Entscheidung stark nicht einverstanden“, sagte Google -Sprecher José Castañeda. „Google und Character AI sind völlig getrennt, und Google hat die App von Character AI oder einen Komponentenanteil nicht erstellt, gestaltet oder verwaltet.“
Unabhängig davon, wie sich die Klage abspielt, laut Lidsky ist der Fall eine Warnung vor „die Gefahren, unsere emotionale und psychische Gesundheit an KI -Unternehmen anzuvertrauen“.
„Es ist eine Warnung an die Eltern, dass Social Media und generative KI -Geräte nicht immer harmlos sind“, sagte sie.
___ Kate Payne ist Corps -Mitglied für die Initiative „Associated Press/Report“ für America StateHouse News. Der Bericht für Amerika ist ein gemeinnütziges National Service -Programm, das Journalisten in lokalen Nachrichtenredaktionen über verdeckte Themen berichten.
< (Dies ist ein unbearbeiteter Artikel, der automatisch aus einem syndizierten Newsfeed generiert wurde. Die Mitarbeiter von glocalist.press haben den Inhalt möglicherweise nicht geändert oder bearbeitet.)
