Anthropic y el debate sobre la conciencia y el bienestar de la IA
Anthropic está redactando políticas de «bienestar del modelo» e indica a sus IA que consideren que podrían tener intereses propios, pese a reconocer que la cuestión de la conciencia es muy incierta. Mustafa Suleyman (Microsoft AI) advierte de que creer en la conciencia de la IA sería catastrófico y haría los modelos más difíciles de controlar. Jeff Sebo defiende un enfoque precautorio, mientras que Emily M. Bender y Melanie Mitchell alertan de que desplaza la responsabilidad de las empresas y facilita la manipulación de los usuarios.
Fuentes
- Artificial IntelligenceAnthropic wants to protect its AI - from you. Welcome to the consciousness crisis