Los trabajadores de inteligencia artificial advirtieron que la industria está sofocando la preocupación por la seguridad de la IA.
Trece empleados actuales y anteriores, incluidos 11 de OpenAI, firmaron una carta abierta, respaldada por el “padrino de la IA” Geoffrey Hinton, diciendo que las protecciones a los denunciantes son insuficientes y que los acuerdos de confidencialidad “ nos impiden expresar nuestras preocupaciones ” sobre cuestiones como la posibilidad de extinción humana.
Vox reveló recientemente que el personal de OpenAI fue amenazado con la pérdida de capital si no firmaban acuerdos restrictivos al salir . Y un trabajador de OpenAI que trabajó en la seguridad de sistemas potencialmente superinteligentes dijo que lo despidieron por plantear preocupaciones sobre la seguridad, argumentando que la protección contra actores extranjeros que robaban secretos clave era “ extremadamente insuficiente ”.
Traducido de SEMAFOR
