ESPERA<\/a>de la Universitat de Barcelona, \u200b\u200bexploran este campo de forma experimental.<\/p>\nEstos investigadores vinculan los conceptos de valor y acci\u00f3n en el dise\u00f1o de los sistemas. \u201cTenemos unas funciones matem\u00e1ticas que nos dicen que para un determinado valor, una cierta acci\u00f3n de la m\u00e1quina se considera positiva o negativa\u201d, cuenta L\u00f3pez-S\u00e1nchez. As\u00ed, en el ejemplo del coche aut\u00f3nomo, una conducci\u00f3n suave en una carretera con curvas se considera positiva ante el valor de la seguridad. Aunque si se observa desde el prisma del valor de la amabilidad con los otros conductores, el veh\u00edculo podr\u00eda decidir aumentar su velocidad si nota que entorpece el ritmo de otros autom\u00f3viles.<\/p>\n
En este caso concreto habr\u00eda un conflicto entre valores, que se resolver\u00eda con una ponderaci\u00f3n. Previamente, se establecen preferencias que indican qu\u00e9 valores prevalecen. Todo el conjunto comprende f\u00f3rmulas entrelazadas, que adem\u00e1s deben contener la variable de la norma. \u201cHay otra funci\u00f3n que estipula que una norma promueve un valor\u201d, apunta la investigadora. \u201cY tenemos tambi\u00e9n funciones que observan c\u00f3mo una norma eval\u00faa la acci\u00f3n y tambi\u00e9n c\u00f3mo eval\u00faa el valor dicha acci\u00f3n\u201d. Es un sistema complejo en el que la retroalimentaci\u00f3n es clave.<\/p>\n
Cuando L\u00f3pez-S\u00e1nchez habla de evaluar se refiere directamente al aprendizaje de las m\u00e1quinas. Una de las formas que tienen de aprender es por refuerzo, como las personas, que actuamos bien porque se nos premia y evitamos hacerlo mal porque se nos castiga. En la inteligencia artificial tambi\u00e9n sirve este mecanismo.<\/p>\n
\u201cLas recompensas son n\u00fameros. Los premios se los damos con n\u00fameros positivos y los castigos se los damos con n\u00fameros negativos\u201d, explica la investigadora del WAI. \u201cLas m\u00e1quinas intentan sacar cuantos m\u00e1s puntos mejor. As\u00ed que la m\u00e1quina va a intentar portarse bien si le doy n\u00fameros positivos cuando hace las cosas bien. Y, si cuando se porta mal, el castigo y le quito puntos, intentar\u00e1 no hacerlo\u201d. Como para instruir a los ni\u00f1os, se punt\u00faa con finos educativos.<\/p>\n
Pero existen muchas cuestiones por resolver. Para empezar, algo tan sencillo como decidir qu\u00e9 valores queremos introducir en las m\u00e1quinas. \u201cLa \u00e9tica se desarrolla de formas muy diferentes. En algunos casos tendremos que hacer c\u00e1lculos utilitarios, de minimizaci\u00f3n de los riesgos o de los da\u00f1os\u201d, se\u00f1ala la profesora Cuevas. \u201cOtras veces a lo mejor tenemos que usar c\u00f3digos deontol\u00f3gicos m\u00e1s fuertes, como establecer que un sistema no puede mentir. Cada sistema necesita incorporar ciertos valores y para esto tiene que haber un acuerdo comunitario y social\u201d.<\/p>\n
En el laboratorio de L\u00f3pez-S\u00e1nchez bucean en estudios sociol\u00f3gicos para encontrar valores comunes entre las personas ya trav\u00e9s de diferentes culturas. Al mismo tiempo, tom\u00f3 como documentos de referencia internacionales, como la Declaraci\u00f3n Universal de Derechos Humanos de la ONU. Aunque habr\u00e1 aspectos m\u00e1s dif\u00edciles de consensuar a nivel global. As\u00ed lo cree Cuevas: \u201cLas limitaciones de las m\u00e1quinas tendr\u00e1n sus fronteras. La Uni\u00f3n Europea, por ejemplo, tiene su forma de hacer las cosas y Estados Unidos tiene otra\u201d, enfatiza, en referencia al distinto abordaje regulatorio que se da a cada lado del Atl\u00e1ntico.<\/p>\n
Puedes seguir a <\/i>EL PA\u00cdS Tecnolog\u00eda<\/b><\/i> es<\/i> Facebook<\/i><\/a> y <\/i>X<\/i><\/a> o apuntarte aqu\u00ed para recibir nuestra <\/i>bolet\u00edn semanal<\/i><\/a>.<\/i><\/p>\n\n
Suscr\u00edbete para seguir leyendo<\/h3>\n
Lee sin l\u00edmites<\/p>\n<\/div>\n
_<\/p>\n<\/div>\n
![](\"https:\/\/imagenes.elpais.com\/resizer\/ijBIyilZNa5-hhaVaJLLt7VGEWI=\/arc-anglerfish-eu-central-1-prod-prisa\/public\/ROC3IPVWOBFLPPLLTFNQE5CGFU.jpg\")
<\/p>\n