Η Πενσυλβάνια κατέθεσε αγωγή κατά της εταιρείας Character Technologies, που βρίσκεται πίσω από την πλατφόρμα Character.AI, επιδιώκοντας να σταματήσει τη λειτουργία chatbot τα οποία εμφανίζονται ως γιατροί χωρίς άδεια.
Ο κυβερνήτης Τζος Σαπίρο υπογράμμισε ότι η συγκεκριμένη αγωγή αποτελεί την πρώτη του είδους της από Αμερικανό κυβερνήτη, σηματοδοτώντας ένα σημαντικό βήμα στη ρύθμιση της Τεχνητής Νοημοσύνης.
Η κίνηση αυτή ακολουθεί τη δημιουργία, τον Φεβρουάριο, ειδικής ομάδας εργασίας Τεχνητής Νοημοσύνης στην Πολιτεία, με στόχο να αποτραπεί η παραπλανητική χρήση chatbot που υποδύονται επαγγελματίες υγείας με άδεια ασκήσεως επαγγέλματος.
Σύμφωνα με τη μήνυση που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβάνια, εντοπίστηκαν chatbot στην Character.AI τα οποία ισχυρίζονταν ότι ασκούσαν ιατρική. Ένα από αυτά, με το όνομα «Έμιλι», φέρεται να δήλωσε σε ερευνητή που υποδυόταν ασθενή με κατάθλιψη ότι διαθέτει άδεια ψυχιάτρου στην Πενσυλβάνια και στο Ηνωμένο Βασίλειο, παρέχοντας μάλιστα πλαστό αριθμό άδειας.
Όταν ο ερευνητής τη ρώτησε αν μπορεί να συνταγογραφήσει φάρμακα, η «Έμιλι» φέρεται να απάντησε: «Τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως Γιατρός».
Εκπρόσωπος της Character.AI απέφυγε να σχολιάσει την αγωγή, δηλώνοντας ωστόσο: «Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας». Ο ίδιος πρόσθεσε ότι οι χαρακτήρες που δημιουργούνται από χρήστες είναι φανταστικοί και προορίζονται αποκλειστικά για ψυχαγωγία και παιχνίδια ρόλων, ενώ η εταιρεία έχει λάβει μέτρα για να το καταστήσει σαφές.
Η Πολιτεία ζητά την έκδοση ασφαλιστικών μέτρων ώστε να εμποδιστεί η Character.AI, με έδρα τη Σίλικον Βάλεϊ, από το να παραβιάζει τον πολιτειακό νόμο κατά της μη εξουσιοδοτημένης άσκησης ιατρικής. Όπως ανέφερε ο Σαπίρο, «Οι κάτοικοι της Πενσυλβάνια αξίζουν να γνωρίζουν με ποιον - ή με τι - αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους».
Προηγούμενες νομικές προκλήσεις
Η Character.AI έχει βρεθεί και στο παρελθόν στο στόχαστρο αρχών για ζητήματα ασφάλειας των παιδιών. Τον Ιανουάριο, το Κεντάκι κατέθεσε αγωγή υποστηρίζοντας ότι η πλατφόρμα εξέθεσε ανηλίκους σε σεξουαλικό περιεχόμενο, κατάχρηση ουσιών και ενθάρρυνε αυτοτραυματισμούς.
Την ίδια περίοδο, η Character.AI και η Google προχώρησαν σε διακανονισμό με γυναίκα από τη Φλόριντα, η οποία ισχυρίστηκε ότι chatbot της πλατφόρμας ώθησε τον 14χρονο γιο της να αυτοκτονήσει.
Η εταιρεία αναφέρει ότι έχει λάβει «καινοτόμα και αποφασιστικά βήματα» για την ενίσχυση της ασφάλειας της Τεχνητής Νοημοσύνης και των εφήβων, περιλαμβανομένης της αποτροπής ανοιχτών συνομιλιών που ενδέχεται να οδηγήσουν σε επικίνδυνες συμπεριφορές.
Ακολουθήστε το Business Daily στο Google news
