Ética de la IA

Icono
Icono del constructor
Icono
Icono del portapapeles
Icono
Icono de rompecabezas
El constructor
El organizador
El solucionador de problemas
Informática y Tecnología de la Información
Focos de atención Datos Educación Conseguir un trabajo Noticias

Focos de atención

Títulos similares

Especialista en ética de la inteligencia artificial, consultor en ética de la inteligencia artificial, responsable de ética de la inteligencia artificial, analista de normas éticas de la inteligencia artificial, asesor en política y ética de la inteligencia artificial, experto en gobernanza de la inteligencia artificial, director de desarrollo responsable de la inteligencia artificial, consultor en toma de decisiones éticas de la inteligencia artificial, responsable de ética y cumplimiento de la inteligencia artificial, desarrollador de marcos éticos de la inteligencia artificial.

Descripción del trabajo

Los seres humanos somos imperfectos, paquetes parciales de emociones contradictorias. Tomamos malas decisiones todo el tiempo, a menudo haciéndonos daño a nosotros mismos o a otros en el proceso. ¿Qué ocurre cuando se intenta crear programas inteligentes artificiales que piensen y actúen como nosotros? 

La IA es como un niño: absorbe todo lo que le comunicamos, lo bueno, lo malo y lo feo. Gran parte, si no la mayoría, de los datos que introducimos en los modelos de IA están cargados de nuestras propias opiniones, preferencias y prejuicios humanos. Sin embargo, esperamos que los resultados de la IA -sus respuestas- sean objetivos, lógicos e imparciales. 

We want AI to be somehow better than us. How is that possible? Unlike a child, artificial intelligence isn’t truly sentient. It can’t (yet) really think for itself or recognize when it is doing something “wrong.” Case in point, Microsoft’s Bing AI, which went rogue and started “insulting people, lying to them, and even emotionally manipulating people.” 

Such problems are becoming widespread, but are addressed by a growing field of specialists called AI Ethicists. As Deloitte explains, “A key responsibility of an AI ethicist…would be to improve the engineering approach to AI by adding ethical, social, and political perspectives to the design, development, and deployment of AI systems. Other key responsibilities include advising on ethical AI practices, protecting against unintended consequences of misbehaving AI, and ensuring accountability for AI-related decisions and actions.”  

Aspectos gratificantes de la carrera
  • Ayudar a mejorar los sistemas de IA para servir mejor a las personas
  • Trabajar en un sector transformador que puede mejorar la vida de muchas personas.
  • Salarios lucrativos y buenas perspectivas de empleo en la actualidad
La primicia
Responsabilidades del trabajo

Horario de trabajo

Los especialistas en ética de la IA trabajan a tiempo completo, con posibles horas extraordinarias en función de los objetivos y los plazos. Sus tareas se realizan en interiores, aunque pueden requerir desplazamientos ocasionales. 

Tareas típicas

  • Crear, evaluar y aplicar prácticas y herramientas de Inteligencia Artificial Responsable.
  • Evaluar la preparación de la organización en relación con la RAI
  • Trabajar con equipos para integrar consideraciones éticas durante el desarrollo de modelos de IA.
  • Realizar análisis éticos de casos de uso y sistemas
  • Analizar diversas cuestiones éticas como la parcialidad, la privacidad y la autonomía.
  • Realizar investigaciones académicas y redactar documentos en los que se expongan los resultados.
  • Desarrollar marcos éticos para el desarrollo y la implantación de la IA
  • Ofrecer orientación y formación a los responsables políticos y las partes interesadas sobre las implicaciones éticas.
  • Ayudar a desarrollar normas y mejores prácticas
  • Garantizar que los modelos de IA se comporten de acuerdo con los principios y valores éticos establecidos.

Responsabilidades adicionales

  • Consultoría sobre proyectos RAI
  • Redactar materiales de formación
  • Trabajar con equipos interfuncionales para resolver problemas
  • Mantener una documentación exhaustiva de los procedimientos
  • Manténgase al día de los avances y tendencias del sector
Habilidades necesarias en el trabajo

Habilidades blandas

  • Adaptabilidad
  • Analítica
  • Colaboración
  • Habilidades de comunicación
  • Creatividad
  • Pensamiento crítico
  • Orientado al detalle
  • Disciplinado
  • Empático
  • Ética
  • Independiente
  • Integridad
  • Metódico
  • Organizado
  • Paciente
  • Capacidad de presentación
  • Resolución de problemas
  • Buen juicio
  • Trabajo en equipo
  • Gestión del tiempo
  • Capacidad de redacción

Habilidades técnicas

  • Conocimiento de tecnologías de IA, incluidos algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión por ordenador.
  • Métodos y programas de análisis de datos
  • Conocimientos generales de codificación (como Python o R)
  • Familiaridad con las leyes y normativas sobre privacidad de datos
  • Principios de ciberseguridad
  • Principios de diseño centrado en el ser humano
  • Evaluación de riesgos de los sistemas de IA  
Diferentes tipos de organizaciones
  • Empresas privadas
  • Empresas de investigación en IA
  • Universidades
Expectativas y sacrificios

El ámbito de trabajo de un especialista en ética de la IA puede ser muy amplio. Son responsables de crear marcos y directrices éticos y de realizar evaluaciones exhaustivas y objetivas para garantizar que los modelos de IA actúan de forma ética. Esto implica mucha colaboración interdisciplinar, y a veces hay desacuerdos o incluso conflictos. 

As Dr. Paula Boddington of the University of West London notes, AI ethics “demands that we continue to question if our ethical decisions are right.” An AI Ethicist must maintain their integrity and stand firm while identifying what they believe are ethical risks, such as biased or discriminatory AI model behavior. They have to be honest and sometimes tell policymakers and stakeholders things they might not want to hear. 

Tendencias actuales

AI such as ChatGPT and Google’s Bard have recently made waves with their impressive array of abilities. Indeed, many tech leaders are now sounding the alarm that things are advancing too fast, without sufficient guardrails to protect the public or businesses. 

Por ejemplo, hay cuestiones relacionadas con los derechos de autor, ya que ¿quién es el "propietario" de las obras de un programa artificialmente inteligente? A los especialistas en ética de la IA también les quita el sueño la revelación accidental de información sensible, como la divulgación inadvertida de datos protegidos y privados por parte de una IA. 

Many career fields are jeopardized because of the onslaught of sophisticated generative AI models, but this is only one of many fears being raised. There are also valid concerns about bizarre AI behavior, such as Bing’s AI going into “obsessive stalker” mode. Such harmful content is only the tip of the iceberg when it comes to what can go wrong with AI. There’s no shortage of nervous doomsday prophets who view AI as an existential threat to humanity, a la Skynet from The Terminator films! 

¿Qué tipo de cosas le gustaba hacer a la gente de esta carrera cuando era más joven...

AI Ethicists were probably keen on technology at an early age. They may have been interested in math, computer coding, tinkering with programming languages, or even hacking. At the same time, they could have enjoyed analytical problem-solving or reading about philosophy, social issues, or public policy.

El trabajo en equipo es una parte importante de este campo profesional, pero los especialistas en ética de la IA a veces deben estar dispuestos a actuar como única voz discrepante cuando hay desacuerdos. Su trabajo consiste en garantizar la conducta ética de la IA. Esta capacidad para defender lo que es correcto podría haberse desarrollado a través de experiencias en la infancia.  

Educación y formación necesarias

Educación necesaria

  • Los especialistas en ética de la IA necesitan un título universitario, pero los requisitos de cualificación del puesto varían. No existe una titulación específica o incluso un nivel de titulación (es decir, licenciatura, máster, doctorado) que se aplique a todos los puestos de especialista en ética de la IA.
  • Las titulaciones más populares son filosofía, informática, derecho, psicología y ciencias sociales.
  • Poseer un título superior puede ser útil, pero también es importante tener una formación amplia y pertinente.
  1. Por ejemplo, un empleador podría querer un candidato con una licenciatura en Informática (con especialización en IA) y un máster en Filosofía (con especialización en ética aplicada o filosofía moral).
  • Los empleadores también buscan candidatos con experiencia laboral práctica relacionada con el desarrollo, la formulación de políticas y la investigación en IA. Algunos también querrán experiencia en procesamiento del lenguaje natural, aprendizaje automático y grandes modelos lingüísticos.
  • Entre los temas habituales de los cursos se incluyen:
  1. IA y política
  2. IA y sociedad
  3. Ética y filosofía de la IA
  4. Interacción Persona-Identificación Artificial
  5. Cuestiones jurídicas de la IA

Deloitte points out the difficulties in finding a candidate with all the necessary qualifications. “Trying to find one person with credible experience and knowledge in all these areas is practically impossible. Instead, companies should take a team approach to AI ethics, achieving the required multi-disciplinary capabilities and experience by learning how to seamlessly orchestrate and integrate insights from a variety of specialized experts.” 

Lo que hay que buscar en una universidad
  • En primer lugar, decide en qué quieres especializarte. Filosofía e informática son opciones populares.
  • Examine la oferta de cursos específicos de ética de la IA de una escuela.
  • Considera la posibilidad de cursar un programa de doble titulación o de titulación combinada (una licenciatura y un máster juntos) que te permita adaptar tu formación a los puestos de trabajo relacionados con la ética de la IA.
  • Consulte las estadísticas de inserción laboral de los graduados del programa
  • Considere el coste de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal)
  • Piense en su horario y flexibilidad a la hora de decidir si se matricula en un programa presencial, en línea o híbrido. 
Cosas que hacer en el instituto y la universidad
  • Sign up for computer science, programming, English, writing, debate, rhetoric, philosophy, business law, social sciences, and public policies classes
  • Encontrar formas de desarrollar habilidades de trabajo en equipo, gestión de proyectos, resolución de problemas y resolución de conflictos.
  • Take online AI-related courses from Coursera, Udemy, Microsoft, DeepLearning.AI, and other sites
  • Adquirir experiencia en el mundo real a través de trabajos a tiempo parcial relacionados con la PNL, el ML, los LLM y/o la programación.
  • Empieza a elaborar tu currículum y añádelo a medida que aprendas y adquieras experiencia laboral.
  • Revise las ofertas de empleo con antelación para ver cuáles son los requisitos medios. Puede que no todos los puestos de AI Ethicist tengan los mismos requisitos educativos.
  • Request to do an informational interview with a working AI Ethicist. Ask about their educational path and what they might have done differently
  • Haz una lista de tus contactos (incluyendo direcciones de correo electrónico o números de teléfono) que puedan servirte como futuras referencias laborales.
  • Leer libros y artículos, y ver vídeos sobre los retos éticos actuales de la IA.
  • Join online forum debates and discussions. Make connections and build social capital within the AI community
  • Participe en organizaciones profesionales para aprender, compartir, hacer amigos y ampliar su red de contactos. Algunas de las organizaciones a las que puedes unirte son: 
  1. Instituto AI Now
  2. Asociación de Profesionales de la IA
  3. Asociación de Lingüística Computacional
  4. Association for Computing Machinery
  5. Asociación de Consumidores de Tecnología
  6. Asociación Europea de Inteligencia Artificial
  7. IEEE
  8. Asociación Internacional de Reconocimiento de Patrones
  9. Instituto de Investigación de Inteligencia Artificial
  10. OpenAI
  11. Asociación sobre IA
  12. Asociación de Industrias Robóticas
  13. Sociedad Internacional de Redes Neuronales
Hoja de ruta típica
Hoja de ruta del especialista en ética de la IA
Cómo conseguir tu primer trabajo
  • Completar una licenciatura pertinente, como informática o filosofía, con especialización en ética de la IA.
  • Consigue toda la experiencia práctica que puedas en PNL, IA, LLM, etc. antes de presentar tu candidatura.
  • Mejora tu currículum realizando cursos ad hoc relacionados con la ética de la IA, si tu programa universitario no ofrecía suficientes clases relevantes.
  • Check out job portals such as Indeed, Simply Hired, Glassdoor, AI-Jobs.net, and The AI Job Board
  • Preste atención a los requisitos de formación y experiencia que figuran en las ofertas de empleo y tome nota de las palabras clave que puede reutilizar en su currículum. Las palabras clave pueden ser:
  1. Auditoría de IA
  2. Tecnología de IA
  3. Resolución de conflictos
  4. Pensamiento crítico
  5. Colaboración interfuncional
  6. Privacidad y seguridad de los datos
  7. Toma de decisiones
  8. Tecnologías emergentes
  9. Análisis ético
  10. Desarrollo del marco ético
  11. Resolución de problemas
  12. Gestión de proyectos
  13. Cumplimiento de la normativa
  14. Investigación y evaluación
  15. Evaluación de riesgos
  16. Transparencia y responsabilidad
  • Check out online AI Ethicist resume templates and review potential job interview questions
  • Habla con el centro de orientación profesional de tu centro de estudios para que te ayuden a redactar tu currículum, hacer simulacros de entrevistas, aprender a vestirte para tener éxito en una entrevista y encontrar ferias de empleo.
  • Pregunte a un especialista en ética de la IA en activo por sus consejos personales para buscar trabajo.
  • Habla con tu asesor académico, profesores e instructores para que te asesoren en el lanzamiento de tu carrera.
  • Haz saber a tu red de contactos que estás buscando trabajo. La mayoría de los empleos se siguen encontrando a través de los conocidos, así que empieza a utilizar parte de tu capital social.
  • Relocate to where the jobs are. Per Versa Networks, the top states hiring the most in AI are: California, Texas, New York, Washington, Virginia, and Massachusetts
  • Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo.
  • Hazte un perfil en LinkedIn y empieza a escribir artículos sobre ética de la IA.
Cómo subir la escalera
  • Understand the importance of proper AI model training, and the consequences to businesses when things go wrong. Google's parent company Alphabet lost $100 billion in market value practically overnight when its Bard chatbot debuted…and gave wrong answers.
  • Meanwhile, Bing had to reign in its AI after it developed a strange alter ego named “Sydney”
  • Seguir y documentar cuidadosamente los procedimientos para garantizar la coherencia y la precisión.
  • Pregúntale a tu jefe qué habilidades podrías mejorar para atender mejor sus necesidades. Podría tratarse de cualquier cosa, desde un título más avanzado hasta una certificación o simplemente unos cuantos cursos adicionales.
  • Demostrar altos valores morales, integridad y perspicacia empresarial
  • Colabora eficazmente con tus compañeros, pero no cedas a la presión del grupo. Céntrate en resolver los problemas
  • Formar a fondo a los nuevos especialistas en ética, pero también escuchar sus puntos de vista. Mantenga la mente abierta, porque hay muchos elementos subjetivos en este campo (al fin y al cabo, tiene sus raíces en la filosofía).
  • Participe en organizaciones profesionales y manténgase al día de los avances. La IA evoluciona rápidamente y hay equipos trabajando en todo el mundo para ir más allá.
  • Don’t just focus on today’s problems. Forecast growing or potential issues which could arise and plan for contingencies!

Una preocupación ética quizás lejana pero aún válida es: ¿cómo deben tratar los seres humanos a la IA a medida que sigue evolucionando? ¿Llegará la IA a ser consciente de sí misma? Si es así, ¿la trataremos en consecuencia... o simplemente la explotaremos como un programa frente a una creación sensible? 

Science fiction authors have long obsessed over such questions. From Isaac Asimov’s I, Robot novel to Star Wars’ discriminatory treatment of droids such as C-3PO, the outlook for AI life forms is often portrayed as bleak. Star Trek: The Next Generation explored this ethical frontier in great detail in the episode “The Measure Of A Man,” in which the ship’s Captain Picard had to “prove Data [a self-aware android] is legally a sentient being with rights and freedoms under Federation law…” 

Herramientas/recursos recomendados

Páginas web

Libros

  • AI Ethics (The MIT Press Essential Knowledge series), by Mark Coeckelbergh
  • Ethics of Artificial Intelligence, by S. Matthew Liao
  • Oxford Handbook of Ethics of AI, by Markus Dubber, Frank Pasquale, and Sunit Das
Plan B

El camino para convertirse en un especialista en ética de la IA no está tan claro como en la mayoría de las profesiones. Y a medida que la tecnología de IA siga avanzando, las cosas pueden cambiar aún más. Si quieres un trabajo relacionado con la tecnología pero te gustaría considerar algunas alternativas, echa un vistazo a las siguientes opciones. 

  • Ingeniero AI Prompt
  • Ingeniero de Big Data
  • Desarrollador de Business Intelligence
  • Ingeniero informático
  • Programador informático
  • Analista de sistemas informáticos
  • Arquitecto de bases de datos
  • Científico de datos
  • Analista de seguridad de la información
  • Matemático
  • Ingeniero de aprendizaje automático
  • Ingeniero en robótica
  • Ingeniero de software
  • Arquitecto de software
  • Desarrollador web 

Newsfeed

Trabajos destacados

Cursos y herramientas en línea

SALARY AND JOB OUTLOOK
Choose a Subregion:

Annual Salary Expectations

$67K
$104K
$152K

New workers start around $67K. Median pay is $104K per year. Highly experienced workers can earn around $152K.

Source: State of California, Employment Development Department