Ética de la IA

Icono
Icono del constructor
Icono
Icono del portapapeles
Icono
Icono de rompecabezas
El constructor
El organizador
El solucionador de problemas
Informática y Tecnología de la Información
Focos de atención Datos Educación Conseguir un trabajo Noticias

Focos de atención

Títulos similares

Especialista en ética de la inteligencia artificial, consultor en ética de la inteligencia artificial, responsable de ética de la inteligencia artificial, analista de normas éticas de la inteligencia artificial, asesor en política y ética de la inteligencia artificial, experto en gobernanza de la inteligencia artificial, director de desarrollo responsable de la inteligencia artificial, consultor en toma de decisiones éticas de la inteligencia artificial, responsable de ética y cumplimiento de la inteligencia artificial, desarrollador de marcos éticos de la inteligencia artificial.

Descripción del trabajo

Los seres humanos somos imperfectos, paquetes parciales de emociones contradictorias. Tomamos malas decisiones todo el tiempo, a menudo haciéndonos daño a nosotros mismos o a otros en el proceso. ¿Qué ocurre cuando se intenta crear programas inteligentes artificiales que piensen y actúen como nosotros? 

La IA es como un niño: absorbe todo lo que le comunicamos, lo bueno, lo malo y lo feo. Gran parte, si no la mayoría, de los datos que introducimos en los modelos de IA están cargados de nuestras propias opiniones, preferencias y prejuicios humanos. Sin embargo, esperamos que los resultados de la IA -sus respuestas- sean objetivos, lógicos e imparciales. 

Queremos que la IA sea de algún modo mejor que nosotros. ¿Cómo es posible? A diferencia de un niño, la inteligencia artificial no es realmente sensible. No puede (todavía) pensar por sí misma ni reconocer cuándo está haciendo algo "mal". Por ejemplo, la IA Bing de Microsoft, que se rebeló y empezó a "insultar a la gente, mentirle e incluso manipularla emocionalmente".

Estos problemas se están generalizando, pero son abordados por un creciente campo de especialistas llamados éticos de la IA. Como Deloitte una de las principales responsabilidades de un especialista en ética de la IA sería mejorar el enfoque de ingeniería de la IA añadiendo perspectivas éticas, sociales y políticas al diseño, desarrollo y despliegue de los sistemas de IA. Otras responsabilidades clave incluyen asesorar sobre prácticas éticas de IA, proteger contra las consecuencias no deseadas de una IA que se comporte mal y garantizar la responsabilidad de las decisiones y acciones relacionadas con la IA."

Aspectos gratificantes de la carrera
  • Ayudar a mejorar los sistemas de IA para servir mejor a las personas 
  • Trabajar en un sector transformador que puede mejorar la vida de muchas personas.
  • Salarios lucrativos y buenas perspectivas de empleo en la actualidad
Salario medio
$121,841
La primicia
Responsabilidades del trabajo

Horario de trabajo

Los especialistas en ética de la IA trabajan a tiempo completo, con posibles horas extraordinarias en función de los objetivos y los plazos. Sus tareas se realizan en interiores, aunque pueden requerir desplazamientos ocasionales. 

Tareas típicas

  • Crear, evaluar y aplicar prácticas y herramientas de Inteligencia Artificial Responsable.
  • Evaluar la preparación de la organización en relación con la RAI
  • Trabajar con equipos para integrar consideraciones éticas durante el desarrollo de modelos de IA.
  • Realizar análisis éticos de casos de uso y sistemas 
  • Analizar diversas cuestiones éticas como la parcialidad, la privacidad y la autonomía.
  • Realizar investigaciones académicas y redactar documentos en los que se expongan los resultados. 
  • Desarrollar marcos éticos para el desarrollo y la implantación de la IA
  • Ofrecer orientación y formación a los responsables políticos y las partes interesadas sobre las implicaciones éticas.
  • Ayudar a desarrollar normas y mejores prácticas
  • Garantizar que los modelos de IA se comporten de acuerdo con los principios y valores éticos establecidos.

Responsabilidades adicionales

  • Consultoría sobre proyectos RAI
  • Redactar materiales de formación 
  • Trabajar con equipos interfuncionales para resolver problemas
  • Mantener una documentación exhaustiva de los procedimientos
  • Manténgase al día de los avances y tendencias del sector
Habilidades necesarias en el trabajo

Habilidades blandas

  • Adaptabilidad 
  • Analítica
  • Colaboración
  • Habilidades de comunicación
  • Creatividad
  • Pensamiento crítico
  • Orientado al detalle
  • Disciplinado
  • Empático
  • Ética
  • Independiente
  • Integridad
  • Metódico
  • Organizado
  • Paciente
  • Capacidad de presentación 
  • Resolución de problemas
  • Buen juicio 
  • Trabajo en equipo
  • Gestión del tiempo 
  • Capacidad de redacción

Habilidades técnicas

  • Conocimiento de tecnologías de IA, incluidos algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión por ordenador.
  • Métodos y programas de análisis de datos
  • Conocimientos generales de codificación (como Python o R)
  • Familiaridad con las leyes y normativas sobre privacidad de datos
  • Principios de ciberseguridad
  • Principios de diseño centrado en el ser humano
  • Evaluación de riesgos de los sistemas de IA  
Diferentes tipos de organizaciones
  • Empresas privadas
  • Empresas de investigación en IA 
  • Universidades
Expectativas y sacrificios

El ámbito de trabajo de un especialista en ética de la IA puede ser muy amplio. Son responsables de crear marcos y directrices éticos y de realizar evaluaciones exhaustivas y objetivas para garantizar que los modelos de IA actúan de forma ética. Esto implica mucha colaboración interdisciplinar, y a veces hay desacuerdos o incluso conflictos. 

Como señala la Dra. Paula Boddington, de la Universidad de West London señalala ética de la IA "exige que sigamos cuestionándonos si nuestras decisiones éticas son correctas". Un especialista en ética de la IA debe mantener su integridad y mantenerse firme mientras identifica lo que considera riesgos éticos, como el comportamiento sesgado o discriminatorio de los modelos de IA. Tiene que ser honesto y a veces decir a los responsables políticos y a las partes interesadas cosas que quizá no quieran oír.

Tendencias actuales

IA como ChatGPT y Bard, de Google, han causado sensación recientemente por sus impresionantes capacidades. De hecho, muchos líderes tecnológicos están haciendo sonar la alarma de que las cosas están avanzando demasiado demasiado rápido, sin suficientes barandillas para proteger al público o a las empresas.

Por ejemplo, hay cuestiones relacionadas con los derechos de autor, ya que ¿quién es el "propietario" de las obras de un programa artificialmente inteligente? A los especialistas en ética de la IA también les quita el sueño la revelación accidental de información sensible, como la divulgación inadvertida de datos protegidos y privados por parte de una IA. 

Muchos campos profesionales en peligro debido a la avalancha de sofisticados modelos generativos de IA, pero éste es sólo uno de los muchos temores que se plantean. También hay preocupaciones válidas sobre comportamientos extraños de la IA, como que la IA de Bing se vuelva "acosador obsesivo de Bing. Estos contenidos nocivos son sólo la punta del iceberg de lo que puede salir mal con la IA. No faltan los agoreros nerviosos que ven la IA como una amenaza existencial para la humanidad, a la Skynet de Terminator.

¿Qué tipo de cosas le gustaba hacer a la gente de esta carrera cuando era más joven...

Es probable que a los éticos de la IA les gustara la tecnología desde pequeños. Es posible que les interesaran las matemáticas, la programación informática, los lenguajes de programación o incluso el piratear. Al mismo tiempo, pueden haber disfrutado resolviendo problemas analíticos o leyendo sobre filosofía, asuntos sociales o política pública.

El trabajo en equipo es una parte importante de este campo profesional, pero los especialistas en ética de la IA a veces deben estar dispuestos a actuar como única voz discrepante cuando hay desacuerdos. Su trabajo consiste en garantizar la conducta ética de la IA. Esta capacidad para defender lo que es correcto podría haberse desarrollado a través de experiencias en la infancia.   

Educación y formación necesarias

Educación necesaria

  • Los especialistas en ética de la IA necesitan un título universitario, pero los requisitos de cualificación del puesto varían. No existe una titulación específica o incluso un nivel de titulación (es decir, licenciatura, máster, doctorado) que se aplique a todos los puestos de especialista en ética de la IA.
  • Las titulaciones más populares son filosofía, informática, derecho, psicología y ciencias sociales.
  • Poseer un título superior puede ser útil, pero también es importante tener una formación amplia y pertinente.
    • Por ejemplo, un empleador podría querer un candidato con una licenciatura en Informática (con especialización en IA) y un máster en Filosofía (con especialización en ética aplicada o filosofía moral).
  • Los empleadores también buscan candidatos con experiencia laboral práctica relacionada con el desarrollo, la formulación de políticas y la investigación en IA. Algunos también querrán experiencia en procesamiento del lenguaje natural, aprendizaje automático y grandes modelos lingüísticos. 
  • Entre los temas habituales de los cursos se incluyen:
    • IA y política 
    • IA y sociedad 
    • Ética y filosofía de la IA
    • Interacción Persona-Identificación Artificial
    • Cuestiones jurídicas de la IA 
  • Los estudiantes también pueden aprender lenguajes de programación como Python por su cuenta o a través de clases
  • Central de clases ofrece información sobre una serie de cursos gratuitos en línea sobre ética de la IA
  • Echa un vistazo también a los cursos y ofertas de certificación de Coursera, como su Especialización en Inteligencia Artificial

Deloitte señala las dificultades para encontrar un candidato con todas las cualificaciones necesarias. "Tratar de encontrar una sola persona con experiencia y conocimientos creíbles en todas estas áreas es prácticamente imposible. En su lugar, las empresas deben adoptar un enfoque de equipo para la ética de la IA, logrando las capacidades multidisciplinares y la experiencia necesarias aprendiendo a orquestar e integrar a la perfección las percepciones de una variedad de expertos especializados."

Lo que hay que buscar en una universidad
  • En primer lugar, decide en qué quieres especializarte. Filosofía e informática son opciones populares.
  • Examine la oferta de cursos específicos de ética de la IA de una escuela.
  • Considera la posibilidad de cursar un programa de doble titulación o de titulación combinada (una licenciatura y un máster juntos) que te permita adaptar tu formación a los puestos de trabajo relacionados con la ética de la IA. 
  • Consulte las estadísticas de inserción laboral de los graduados del programa
  • Considere el coste de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal)
  • Piense en su horario y flexibilidad a la hora de decidir si se matricula en un programa presencial, en línea o híbrido. 
Cosas que hacer en el instituto y la universidad
Hoja de ruta típica
Hoja de ruta del especialista en ética de la IA
Cómo conseguir tu primer trabajo
  • Completar una licenciatura pertinente, como informática o filosofía, con especialización en ética de la IA.
  • Consigue toda la experiencia práctica que puedas en PNL, IA, LLM, etc. antes de presentar tu candidatura.
  • Mejora tu currículum realizando cursos ad hoc relacionados con la ética de la IA, si tu programa universitario no ofrecía suficientes clases relevantes.
  • Consulte portales de empleo como Indeed, Simply Hired, Glassdoor, AI-Jobs.nety La bolsa de trabajo de IA
  • Preste atención a los requisitos de formación y experiencia que figuran en las ofertas de empleo y tome nota de las palabras clave que puede reutilizar en su currículum. Las palabras clave pueden ser: 
    • Auditoría de IA
    • Tecnología de IA
    • Resolución de conflictos
    • Pensamiento crítico
    • Colaboración interfuncional
    • Privacidad y seguridad de los datos
    • Toma de decisiones
    • Tecnologías emergentes
    • Análisis ético 
    • Desarrollo del marco ético
    • Resolución de problemas
    • Gestión de proyectos
    • Cumplimiento de la normativa
    • Investigación y evaluación
    • Evaluación de riesgos 
    • Transparencia y responsabilidad
  • Consulte en línea plantillas de curriculum vitae de AI Ethicist y revise las posibles preguntas de la entrevista de trabajo
  • Habla con el centro de orientación profesional de tu centro de estudios para que te ayuden a redactar tu currículum, hacer simulacros de entrevistas, aprender a vestirte para tener éxito en una entrevista y encontrar ferias de empleo. 
  • Pregunte a un especialista en ética de la IA en activo por sus consejos personales para buscar trabajo.
  • Habla con tu asesor académico, profesores e instructores para que te asesoren en el lanzamiento de tu carrera.
  • Haz saber a tu red de contactos que estás buscando trabajo. La mayoría de los empleos se siguen encontrando a través de los conocidos, así que empieza a utilizar parte de tu capital social. 
  • Trasladarse allí donde hay trabajo. Por Versa Networkslos estados que más contratan en IA son: California, Texas, Nueva York, Washington, Virginia y Massachusetts.
  • Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo.
  • Hazte un perfil en LinkedIn y empieza a escribir artículos sobre ética de la IA.
Cómo subir la escalera
  • Comprenda la importancia de una formación adecuada de los modelos de IA y las consecuencias para las empresas cuando las cosas van mal. La empresa matriz de Google Alphabet perdió 100.000 millones de dólares en valor de mercado prácticamente de la noche a la mañana cuando su chatbot Bard debutó... y dio respuestas erróneas. Mientras tanto, Bing tuvo que refrenar su IA después de que desarrollara un extraño alter ego llamado "Sydney".
  • Seguir y documentar cuidadosamente los procedimientos para garantizar la coherencia y la precisión.
  • Pregúntale a tu jefe qué habilidades podrías mejorar para atender mejor sus necesidades. Podría tratarse de cualquier cosa, desde un título más avanzado hasta una certificación o simplemente unos cuantos cursos adicionales.
  • Demostrar altos valores morales, integridad y perspicacia empresarial
  • Colabora eficazmente con tus compañeros, pero no cedas a la presión del grupo. Céntrate en resolver los problemas
  • Formar a fondo a los nuevos especialistas en ética, pero también escuchar sus puntos de vista. Mantenga la mente abierta, porque hay muchos elementos subjetivos en este campo (al fin y al cabo, tiene sus raíces en la filosofía).
  • Participe en organizaciones profesionales y manténgase al día de los avances. La IA evoluciona rápidamente y hay equipos trabajando en todo el mundo para ir más allá.
  • No se centre sólo en los problemas de hoy. Prevea problemas crecientes o problemas potenciales que podrían surgir y planifica las contingencias.

Una preocupación ética quizás lejana pero aún válida es: ¿cómo deben tratar los seres humanos a la IA a medida que sigue evolucionando? ¿Llegará la IA a ser consciente de sí misma? Si es así, ¿la trataremos en consecuencia... o simplemente la explotaremos como un programa frente a una creación sensible? 

Los autores de ciencia ficción llevan mucho tiempo obsesionados con estas cuestiones. Desde Isaac Asimov Yo, Robot de Isaac Asimov trato discriminatorio de la Guerra de las Galaxias a droides como C-3PO, las perspectivas de las formas de vida de la IA suelen ser sombrías. Star Trek: The Next Generation exploró esta frontera ética con gran detalle en el episodio "La medida de un hombre en el que el capitán Picard tuvo que "demostrar a Data [un androide consciente de sí mismo] es legalmente un ser sensible con derechos y libertades según la ley de la Federación...".

Herramientas/recursos recomendados

Páginas web

 

Libros

Plan B

El camino para convertirse en un especialista en ética de la IA no está tan claro como en la mayoría de las profesiones. Y a medida que la tecnología de IA siga avanzando, las cosas pueden cambiar aún más. Si quieres un trabajo relacionado con la tecnología pero te gustaría considerar algunas alternativas, echa un vistazo a las siguientes opciones. 

  • Ingeniero AI Prompt
  • Ingeniero de Big Data
  • Desarrollador de Business Intelligence
  • Ingeniero informático
  • Programador informático
  • Analista de sistemas informáticos
  • Arquitecto de bases de datos
  • Científico de datos
  • Analista de seguridad de la información
  • Matemático
  • Ingeniero de aprendizaje automático
  • Ingeniero en robótica
  • Ingeniero de software
  • Arquitecto de software
  • Desarrollador web

Newsfeed

Trabajos destacados

Cursos y herramientas en línea