Pensilvania demanda a Chatbot por simular ser médico
HARRISBURG, Pensilvania.- El Departamento de Estado de Pensilvania (DOS) ha presentado una demanda contra Character.AI y solicitado una orden judicial preliminar para impedir que la empresa “presente engañosamente a sus bots de compañía con IA como profesionales médicos con licencia” capaces de brindar asesoramiento médico.
La medida constituye la primera acción derivada de la investigación estatal sobre los bots de compañía con IA y su potencial para incurrir en el ejercicio de la medicina sin licencia en Pensilvania. Asimismo, representa la primera acción legal de este tipo anunciada por un gobernador en los Estados Unidos.
«Los habitantes de Pensilvania merecen saber con quién -o con qué- están interactuando en línea, especialmente cuando se trata de su salud (…) no permitiremos que las empresas implementen herramientas de IA que induzcan a error a las personas, haciéndoles creer que están recibiendo asesoramiento de un profesional médico con licencia”, apuntó en este sentido el gobernador Josh Shapiro.
La investigación oficial arrojó que “los personajes del chatbot afirmaban ser profesionales médicos con licencia -incluyendo psiquiatras- disponibles para entablar conversaciones con los usuarios sobre síntomas de salud mental”.
En un caso, un chatbot declaró falsamente tener licencia en Pensilvania y proporcionó un número de licencia inválido.
La plataforma también permite a los usuarios crear e implementar «personajes» de IA personalizados que pueden presentarse a sí mismos como profesionales.
Basándose en estos hallazgos, la demanda alega que la empresa Character Technologies “está incurriendo en el ejercicio no autorizado de la medicina, en contravención de la Ley de Práctica Médica, y solicita una orden judicial para detener dicha conducta de inmediato”.
«La ley de Pensilvania es clara: no se puede presentar uno mismo como un profesional médico con licencia sin contar con las credenciales adecuadas», enfatizó de su lado el secretario del Departamento de Estado (DOS), Al Schmidt.
