Ética de la IA

Icono
Icono del constructor
Icono
Icono del portapapeles
Icono
Icono de rompecabezas
El constructor
El organizador
El solucionador de problemas
Informática y Tecnología de la Información
Focos de atención Datos Educación Conseguir un trabajo Noticias

Focos de atención

Títulos similares

Especialista en ética de la inteligencia artificial, consultor en ética de la inteligencia artificial, responsable de ética de la inteligencia artificial, analista de normas éticas de la inteligencia artificial, asesor en política y ética de la inteligencia artificial, experto en gobernanza de la inteligencia artificial, director de desarrollo responsable de la inteligencia artificial, consultor en toma de decisiones éticas de la inteligencia artificial, responsable de ética y cumplimiento de la inteligencia artificial, desarrollador de marcos éticos de la inteligencia artificial.

Descripción del trabajo

Los seres humanos somos imperfectos, paquetes parciales de emociones contradictorias. Tomamos malas decisiones todo el tiempo, a menudo haciéndonos daño a nosotros mismos o a otros en el proceso. ¿Qué ocurre cuando se intenta crear programas inteligentes artificiales que piensen y actúen como nosotros? 

La IA es como un niño: absorbe todo lo que le comunicamos, lo bueno, lo malo y lo feo. Gran parte, si no la mayoría, de los datos que introducimos en los modelos de IA están cargados de nuestras propias opiniones, preferencias y prejuicios humanos. Sin embargo, esperamos que los resultados de la IA -sus respuestas- sean objetivos, lógicos e imparciales. 

Queremos que la IA sea de algún modo mejor que nosotros. ¿Cómo es posible? A diferencia de un niño, la inteligencia artificial no es realmente sensible. No puede (todavía) pensar por sí misma ni reconocer cuándo está haciendo algo "mal". Un ejemplo es la inteligencia artificial Bing de Microsoft, que se rebeló y empezó a "insultar a la gente, mentirles e incluso manipularles emocionalmente". 

Estos problemas se están generalizando, pero los aborda un campo cada vez más amplio de especialistas denominados especialistas en ética de la IA. Como explica Deloitte, "una de las principales responsabilidades de un especialista en ética de la IA... sería mejorar el enfoque de ingeniería de la IA añadiendo perspectivas éticas, sociales y políticas al diseño, desarrollo y despliegue de los sistemas de IA". Otras responsabilidades clave incluyen asesorar sobre prácticas éticas de IA, proteger contra las consecuencias no deseadas de una IA que se comporte mal y garantizar la responsabilidad de las decisiones y acciones relacionadas con la IA".  

Aspectos gratificantes de la carrera
  • Ayudar a mejorar los sistemas de IA para servir mejor a las personas
  • Trabajar en un sector transformador que puede mejorar la vida de muchas personas.
  • Salarios lucrativos y buenas perspectivas de empleo en la actualidad
La primicia
Responsabilidades del trabajo

Horario de trabajo

Los especialistas en ética de la IA trabajan a tiempo completo, con posibles horas extraordinarias en función de los objetivos y los plazos. Sus tareas se realizan en interiores, aunque pueden requerir desplazamientos ocasionales. 

Tareas típicas

  • Crear, evaluar y aplicar prácticas y herramientas de Inteligencia Artificial Responsable.
  • Evaluar la preparación de la organización en relación con la RAI
  • Trabajar con equipos para integrar consideraciones éticas durante el desarrollo de modelos de IA.
  • Realizar análisis éticos de casos de uso y sistemas
  • Analizar diversas cuestiones éticas como la parcialidad, la privacidad y la autonomía.
  • Realizar investigaciones académicas y redactar documentos en los que se expongan los resultados.
  • Desarrollar marcos éticos para el desarrollo y la implantación de la IA
  • Ofrecer orientación y formación a los responsables políticos y las partes interesadas sobre las implicaciones éticas.
  • Ayudar a desarrollar normas y mejores prácticas
  • Garantizar que los modelos de IA se comporten de acuerdo con los principios y valores éticos establecidos.

Responsabilidades adicionales

  • Consultoría sobre proyectos RAI
  • Redactar materiales de formación
  • Trabajar con equipos interfuncionales para resolver problemas
  • Mantener una documentación exhaustiva de los procedimientos
  • Manténgase al día de los avances y tendencias del sector
Habilidades necesarias en el trabajo

Habilidades blandas

  • Adaptabilidad
  • Analítica
  • Colaboración
  • Habilidades de comunicación
  • Creatividad
  • Pensamiento crítico
  • Orientado al detalle
  • Disciplinado
  • Empático
  • Ética
  • Independiente
  • Integridad
  • Metódico
  • Organizado
  • Paciente
  • Capacidad de presentación
  • Resolución de problemas
  • Buen juicio
  • Trabajo en equipo
  • Gestión del tiempo
  • Capacidad de redacción

Habilidades técnicas

  • Conocimiento de tecnologías de IA, incluidos algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión por ordenador.
  • Métodos y programas de análisis de datos
  • Conocimientos generales de codificación (como Python o R)
  • Familiaridad con las leyes y normativas sobre privacidad de datos
  • Principios de ciberseguridad
  • Principios de diseño centrado en el ser humano
  • Evaluación de riesgos de los sistemas de IA  
Diferentes tipos de organizaciones
  • Empresas privadas
  • Empresas de investigación en IA
  • Universidades
Expectativas y sacrificios

El ámbito de trabajo de un especialista en ética de la IA puede ser muy amplio. Son responsables de crear marcos y directrices éticos y de realizar evaluaciones exhaustivas y objetivas para garantizar que los modelos de IA actúan de forma ética. Esto implica mucha colaboración interdisciplinar, y a veces hay desacuerdos o incluso conflictos. 

Como señala la Dra. Paula Boddington, de la Universidad de West London, la ética de la IA "exige que sigamos cuestionándonos si nuestras decisiones éticas son correctas". Un especialista en ética de la IA debe mantener su integridad y mantenerse firme mientras identifica lo que cree que son riesgos éticos, como el comportamiento sesgado o discriminatorio de los modelos de IA. Tiene que ser honesto y a veces decir a los responsables políticos y a las partes interesadas cosas que quizá no quieran oír. 

Tendencias actuales

IA como ChatGPT y Bard, de Google, han causado sensación recientemente por sus impresionantes capacidades. De hecho, muchos líderes tecnológicos están haciendo sonar la alarma de que las cosas están avanzando demasiado rápido, sin suficientes barandillas para proteger al público o a las empresas. 

Por ejemplo, hay cuestiones relacionadas con los derechos de autor, ya que ¿quién es el "propietario" de las obras de un programa artificialmente inteligente? A los especialistas en ética de la IA también les quita el sueño la revelación accidental de información sensible, como la divulgación inadvertida de datos protegidos y privados por parte de una IA. 

Muchos campos profesionales están en peligro debido a la avalancha de sofisticados modelos generativos de IA, pero éste es sólo uno de los muchos temores que se plantean. También existen preocupaciones válidas sobre comportamientos extraños de la IA, como que la IA de Bing entre en modo "acosador obsesivo ". Estos contenidos nocivos son sólo la punta del iceberg de lo que puede salir mal con la IA. No faltan los agoreros nerviosos que ven en la IA una amenaza existencial para la humanidad, como Skynet en Terminator. 

¿Qué tipo de cosas le gustaba hacer a la gente de esta carrera cuando era más joven...

Es probable que a los especialistas en ética de la IA les gustara la tecnología desde pequeños. Puede que les interesaran las matemáticas, los códigos informáticos, los lenguajes de programación o incluso la piratería informática. Al mismo tiempo, pueden haber disfrutado resolviendo problemas analíticos o leyendo sobre filosofía, asuntos sociales o política pública.

El trabajo en equipo es una parte importante de este campo profesional, pero los especialistas en ética de la IA a veces deben estar dispuestos a actuar como única voz discrepante cuando hay desacuerdos. Su trabajo consiste en garantizar la conducta ética de la IA. Esta capacidad para defender lo que es correcto podría haberse desarrollado a través de experiencias en la infancia.  

Educación y formación necesarias

Educación necesaria

  • Los especialistas en ética de la IA necesitan un título universitario, pero los requisitos de cualificación del puesto varían. No existe una titulación específica o incluso un nivel de titulación (es decir, licenciatura, máster, doctorado) que se aplique a todos los puestos de especialista en ética de la IA.
  • Las titulaciones más populares son filosofía, informática, derecho, psicología y ciencias sociales.
  • Poseer un título superior puede ser útil, pero también es importante tener una formación amplia y pertinente.
  1. Por ejemplo, un empleador podría querer un candidato con una licenciatura en Informática (con especialización en IA) y un máster en Filosofía (con especialización en ética aplicada o filosofía moral).
  • Los empleadores también buscan candidatos con experiencia laboral práctica relacionada con el desarrollo, la formulación de políticas y la investigación en IA. Algunos también querrán experiencia en procesamiento del lenguaje natural, aprendizaje automático y grandes modelos lingüísticos.
  • Entre los temas habituales de los cursos se incluyen:
  1. IA y política
  2. IA y sociedad
  3. Ética y filosofía de la IA
  4. Interacción Persona-Identificación Artificial
  5. Cuestiones jurídicas de la IA

Deloitte señala las dificultades para encontrar un candidato con todas las cualificaciones necesarias. "Tratar de encontrar una sola persona con experiencia y conocimientos creíbles en todas estas áreas es prácticamente imposible. En su lugar, las empresas deben adoptar un enfoque de equipo para la ética de la IA, logrando las capacidades multidisciplinares y la experiencia necesarias aprendiendo a orquestar e integrar sin problemas las percepciones de una variedad de expertos especializados." 

Lo que hay que buscar en una universidad
  • En primer lugar, decide en qué quieres especializarte. Filosofía e informática son opciones populares.
  • Examine la oferta de cursos específicos de ética de la IA de una escuela.
  • Considera la posibilidad de cursar un programa de doble titulación o de titulación combinada (una licenciatura y un máster juntos) que te permita adaptar tu formación a los puestos de trabajo relacionados con la ética de la IA.
  • Consulte las estadísticas de inserción laboral de los graduados del programa
  • Considere el coste de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal)
  • Piense en su horario y flexibilidad a la hora de decidir si se matricula en un programa presencial, en línea o híbrido. 
Cosas que hacer en el instituto y la universidad
  • Apúntate a clases de informática, programación, inglés, redacción, debate, retórica, filosofía, derecho mercantil, ciencias sociales y políticas públicas.
  • Encontrar formas de desarrollar habilidades de trabajo en equipo, gestión de proyectos, resolución de problemas y resolución de conflictos.
  • Realice cursos en línea relacionados con la IA en Coursera, Udemy, Microsoft, DeepLearning.AI y otros sitios.
  • Adquirir experiencia en el mundo real a través de trabajos a tiempo parcial relacionados con la PNL, el ML, los LLM y/o la programación.
  • Empieza a elaborar tu currículum y añádelo a medida que aprendas y adquieras experiencia laboral.
  • Revise las ofertas de empleo con antelación para ver cuáles son los requisitos medios. Puede que no todos los puestos de AI Ethicist tengan los mismos requisitos educativos.
  • Solicite una entrevista informativa con un especialista en ética de la IA en activo. Pregúntele por su trayectoria educativa y qué podría haber hecho de otra manera.
  • Haz una lista de tus contactos (incluyendo direcciones de correo electrónico o números de teléfono) que puedan servirte como futuras referencias laborales.
  • Leer libros y artículos, y ver vídeos sobre los retos éticos actuales de la IA.
  • Participe en debates y discusiones en foros en línea. Establecer contactos y crear capital social en la comunidad de la IA.
  • Participe en organizaciones profesionales para aprender, compartir, hacer amigos y ampliar su red de contactos. Algunas de las organizaciones a las que puedes unirte son: 
  1. Instituto AI Now
  2. Asociación de Profesionales de la IA
  3. Asociación de Lingüística Computacional
  4. Association for Computing Machinery
  5. Asociación de Consumidores de Tecnología
  6. Asociación Europea de Inteligencia Artificial
  7. IEEE
  8. Asociación Internacional de Reconocimiento de Patrones
  9. Instituto de Investigación de Inteligencia Artificial
  10. OpenAI
  11. Asociación sobre IA
  12. Asociación de Industrias Robóticas
  13. Sociedad Internacional de Redes Neuronales
Hoja de ruta típica
Hoja de ruta del especialista en ética de la IA
Cómo conseguir tu primer trabajo
  • Completar una licenciatura pertinente, como informática o filosofía, con especialización en ética de la IA.
  • Consigue toda la experiencia práctica que puedas en PNL, IA, LLM, etc. antes de presentar tu candidatura.
  • Mejora tu currículum realizando cursos ad hoc relacionados con la ética de la IA, si tu programa universitario no ofrecía suficientes clases relevantes.
  • Consulte portales de empleo como Indeed, Simply Hired, Glassdoor, AI-Jobs.net y The AI Job Board.
  • Preste atención a los requisitos de formación y experiencia que figuran en las ofertas de empleo y tome nota de las palabras clave que puede reutilizar en su currículum. Las palabras clave pueden ser:
  1. Auditoría de IA
  2. Tecnología de IA
  3. Resolución de conflictos
  4. Pensamiento crítico
  5. Colaboración interfuncional
  6. Privacidad y seguridad de los datos
  7. Toma de decisiones
  8. Tecnologías emergentes
  9. Análisis ético
  10. Desarrollo del marco ético
  11. Resolución de problemas
  12. Gestión de proyectos
  13. Cumplimiento de la normativa
  14. Investigación y evaluación
  15. Evaluación de riesgos
  16. Transparencia y responsabilidad
  • Consulta en línea plantillas de currículos de especialistas en ética de la IA y revisa las posibles preguntas de las entrevistas de trabajo.
  • Habla con el centro de orientación profesional de tu centro de estudios para que te ayuden a redactar tu currículum, hacer simulacros de entrevistas, aprender a vestirte para tener éxito en una entrevista y encontrar ferias de empleo.
  • Pregunte a un especialista en ética de la IA en activo por sus consejos personales para buscar trabajo.
  • Habla con tu asesor académico, profesores e instructores para que te asesoren en el lanzamiento de tu carrera.
  • Haz saber a tu red de contactos que estás buscando trabajo. La mayoría de los empleos se siguen encontrando a través de los conocidos, así que empieza a utilizar parte de tu capital social.
  • Trasládese allí donde haya trabajo. Según Versa Networks, los estados que más contratan en IA son: California, Texas, Nueva York, Washington, Virginia y Massachusetts.
  • Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo.
  • Hazte un perfil en LinkedIn y empieza a escribir artículos sobre ética de la IA.
Cómo subir la escalera
  • Comprenda la importancia de una formación adecuada de los modelos de IA y las consecuencias para las empresas cuando las cosas van mal. Alphabet, la empresa matriz de Google, perdió 100.000 millones de dólares de valor de mercado prácticamente de la noche a la mañana cuando su chatbot Bard debutó... y dio respuestas erróneas.
  • Mientras tanto, Bing tuvo que controlar su IA después de que desarrollara un extraño alter ego llamado "Sydney".
  • Seguir y documentar cuidadosamente los procedimientos para garantizar la coherencia y la precisión.
  • Pregúntale a tu jefe qué habilidades podrías mejorar para atender mejor sus necesidades. Podría tratarse de cualquier cosa, desde un título más avanzado hasta una certificación o simplemente unos cuantos cursos adicionales.
  • Demostrar altos valores morales, integridad y perspicacia empresarial
  • Colabora eficazmente con tus compañeros, pero no cedas a la presión del grupo. Céntrate en resolver los problemas
  • Formar a fondo a los nuevos especialistas en ética, pero también escuchar sus puntos de vista. Mantenga la mente abierta, porque hay muchos elementos subjetivos en este campo (al fin y al cabo, tiene sus raíces en la filosofía).
  • Participe en organizaciones profesionales y manténgase al día de los avances. La IA evoluciona rápidamente y hay equipos trabajando en todo el mundo para ir más allá.
  • No se limite a los problemas de hoy. Prevea los problemas crecientes o potenciales que puedan surgir y planifique las contingencias.

Una preocupación ética quizás lejana pero aún válida es: ¿cómo deben tratar los seres humanos a la IA a medida que sigue evolucionando? ¿Llegará la IA a ser consciente de sí misma? Si es así, ¿la trataremos en consecuencia... o simplemente la explotaremos como un programa frente a una creación sensible? 

Los autores de ciencia ficción llevan mucho tiempo obsesionados con estas cuestiones. Desde la novela de Isaac Asimov Yo, Robot hasta el trato discriminatorio de droides como C-3PO en La Guerra de las Galaxias, las perspectivas de las formas de vida con IA suelen ser sombrías. Star Trek: The Next Generation exploró esta frontera ética con gran detalle en el episodio "The Measure Of A Man" (La medida de un hombre), en el que el capitán de la nave, Picard, tenía que "demostrar que Data [un androide consciente de sí mismo] es legalmente un ser sensible con derechos y libertades según la ley de la Federación...". 

Herramientas/recursos recomendados

Páginas web

Libros

  • Ética de la IA (serie The MIT Press Essential Knowledge), por Mark Coeckelbergh
  • Ética de la inteligencia artificial, por S. Matthew Liao
  • Oxford Handbook of Ethics of AI, de Markus Dubber, Frank Pasquale y Sunit Das.
Plan B

El camino para convertirse en un especialista en ética de la IA no está tan claro como en la mayoría de las profesiones. Y a medida que la tecnología de IA siga avanzando, las cosas pueden cambiar aún más. Si quieres un trabajo relacionado con la tecnología pero te gustaría considerar algunas alternativas, echa un vistazo a las siguientes opciones. 

  • Ingeniero AI Prompt
  • Ingeniero de Big Data
  • Desarrollador de Business Intelligence
  • Ingeniero informático
  • Programador informático
  • Analista de sistemas informáticos
  • Arquitecto de bases de datos
  • Científico de datos
  • Analista de seguridad de la información
  • Matemático
  • Ingeniero de aprendizaje automático
  • Ingeniero en robótica
  • Ingeniero de software
  • Arquitecto de software
  • Desarrollador web 

Newsfeed

Trabajos destacados

Cursos y herramientas en línea

SALARIO Y PERSPECTIVAS LABORALES
Elija una subregión:

Expectativas salariales anuales

$67K
$104K
$152K

Los nuevos trabajadores empiezan en torno a los 67.000 dólares. El salario medio es de 104.000 dólares al año. Los trabajadores con más experiencia pueden ganar unos 152.000 dólares.

Fuente: Estado de California, Departamento de Desarrollo del Empleo