Como en un filme de ciencia ficción: Prejuicios entre robots
En lo que parece ser un nuevo reto a tomar en cuenta por programadores y desarrolladores de inteligencia artificial, científicos del Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Cardiff, en Gales, Reino Unido, han realizado una investigación según la cual los prejuicios también pueden ser desarrollados por los robots, no solo por el hombre, y de manera totalmente independiente, sin que medie influencia humana.
Los resultados de la investigación han sido recogidos en la revista Nature, y esta semana han generado en medios de prensa británicos titulares como “¿Pueden los robots desarrollar prejuicios por sí mismos?” y “Los robots podrían volverse racistas o sexistas, según reporte”.
De acuerdo con el estudio, las inteligencias artificiales presentes en robots son susceptibles de acabar desarrollando estos comportamientos negativos exclusivamente a partir de las relaciones de cooperación con otras máquinas.
En estudios anteriores se había demostrado que los algoritmos artificiales podían desarrollar prejuicios como el racismo o el machismo. No obstante, en todos los casos se trataba de sistemas entrenados a través de registros de datos generados por humanos mediante aprendizaje automático.
La investigación de la Universidad de Cardiff y el MIT se basa en una simulación por ordenador que analiza las similitudes de las interacciones entre agentes virtuales que pueden derivar en la creación de grupos. En este contexto, cada individuo toma decisiones sobre si dejar a otros formar parte de su grupo basadas en la reputación y en estrategias en las que influyen los prejuicios hacia extraños.
“Nuestras simulaciones muestran que los prejuicios son una fuerza poderosa de la naturaleza y en la evolución, y que pueden incentivarse con facilidad entre las comunidades virtuales, en detrimento de la conectividad más amplia con otros”, ha explicado uno de los autores del estudio y profesor de la Universidad de Cardiff, Roger Whitaker.
La investigación demostró que los individuos actualizan sus niveles de prejuicio copiando a aquellos que han obtenido un beneficio más alto a corto plazo. Ello implica, explican los responsables del estudio, que esas decisiones no requieren necesariamente habilidades cognitivas avanzadas.
“Muchos de los avances en inteligencia artificial implican autonomía, lo que significa que el comportamiento de los dispositivos también está influido por otros a su alrededor”, ha dicho Whitaker.
En resumen: los prejuicios no son un fenómeno exclusivamente humano y las máquinas pudieran desarrollarlos aprendiendo unas de otras.
“La protección frente a grupos prejuiciosos puede llevar a los individuos, inadvertidamente, a formar nuevos grupos prejuiciosos, lo cual resultaría en una población fracturada. Tal nivel de prejuicios sería muy difícil de revertir”, dijo Whitaker, del Instituto de Investigación de Seguridad y Crimen de la Universidad de Cardiff y de la Escuela de Ciencias de la Computación e Informática.
El hallazgo, consideraron expertos, sería una mala noticia para los humanos en un escenario futuro en que los robots tengan un creciente poder en el funcionamiento de las economías y las sociedades.
Un alto ejecutivo del Banco de Inglaterra dijo a BBC Radio 4: “De pronto, veremos a las máquinas reemplazar a los hombres haciendo cosas inteligentes, y también haciendo cosas”.
(Con información de Europa Press y sciencedaily.com)
- China: Ciencia del litio aplicada al desarrollo (+ Fotos)
- Gedeme: Una vuelta a FITCuba para retomar nichos de mercado
- Islandia alberga el primer sistema para capturar CO2 del aire
- China lanza la sonda Chang’e-6 para obtener muestras de la cara oculta de la Luna
- Astronautas chinos completan misión semestral y retornan a la Tierra desde el cosmos
- ir aCiencia y Tecnología »
pongan dos chatbots a conversar uno con otro y ya veran que pasa
todo es en manos del hombre!!. Es cierto, un robot puede aprender por si solo a tomar prejuicios y a discriminar sin que un ser humano lo enseñe, pero solo si ese mismo ser humano programa al automata a que aprenda por si solo a tomar prejuicios y a discriminar... Hasta ahora un chip, una placa madre y un bit no tinen razonamiento lógico a menos que el hombre la programe....
asi van las cosas
Yo eso lo veo muy raro. No dudo de la capacidad de los especialistas que hacen el estudio, pero si analizamos como funciona la inteligencia no artificial, nos damos cuenta que los niños aprenden a partir de bases que le establecen sus padres y la sociedad. Se les incorpora y a partir de ahí establecen un sistema de aprendizaje. Con la inteligencia artificial no es muy diferente. si el hombre establece que aprenda a partir de los mejores resultado obtenidos a su alrededor en corto plazo, los resultados son unos, pero si se establece que sea a partir de los peores resultados a largo plazo, son totalmente distintos. Si estoy hablando cáscara y las máquinas son capaces de aprender lo que le da la gana, sin establecerles ningun principio o guia, entonces se acabó nuestro dominio sobre la tierra.
Harto de las estupideces humanas.
Vamos camino a cualquier peliocula de ciencia ficción, yo la titularía LA REBELION DE LOS ROBOT, donde un grupo de robot crea un partido político y se postula para las eleccciones del país y al final terinan dirigiendo la ONU.
Y creías que lo de Terminator era puro cuento?
gracia ya acabe con mi tarea