El tema de la seguridad es lo que mas preocupa a la hora de trabajar con la Inteligencia Artificial y no son pocas las personas que han dejado ver sus dudas al respecto. Desde grandes nombres del sector hasta trabajadores de las propias empresas que las desarrollan han expresado su preocupación, llegando hasta el extremo de haber llegado a renuncias a sus puestos de trabajo como en el caso que hoy nos ocupa.
Según leemos en Futurism, un trabajador de seguridad del equipo de seguridad de OpenAI ha presentado su renuncia ante la perdida de confianza en la empresa dirigida por Sam Altman.
El propio empleado, Daniel Kokotajlo, ha explicado su decisión, aduciendo que su salida de OpenAI era debido a la pérdida de confianza en que se comportará de manera responsable en la época de Inteligencia Artificial General. En diversos foros el empleado afirma que si bien cree que la mayoría de personas quieren una pausa selectiva en esta tecnología, esta no se aplica a las grandes corporaciones que son las que realmente deberían aplicarlas.
Esto es algo que se lleva tiempo reclamando y varias grandes personalidades del sector ya firmaron en su día una carta abierta en la que se expone que “Sólo se deberían desarrollar potentes sistemas de IA una vez que estemos seguros de que sus efectos serán positivos y sus riesgos manejables“.
Lo cierto es que a día de hoy hay una enorme controversia donde se contraponen los evidentes beneficios de la IA contra sus posibles peligros. Organismos como la Unión Europea ya han comenzado a legislar su uso, pero esta regulación se suele hacer a posteriori y no de forma preventiva, lo que hace que los temores permanezcan.
Esta claro que el tema que tratamos hoy es un caso particular, algo que el propio Kokotajlo recalca, pero también deja ver como incluso las personas que trabajan con esta tecnología tienen sus miedos. Desde luego aún hay mucho que hablar sobre el tema y no parece que estemos cerca de darlo por zanjado, por lo que las autoridades competentes se tienen que poner como objetivo garantizar tanto un desarrollo como un uso seguro de estas tecnologías.
