{"id":159527,"date":"2023-11-27T04:20:00","date_gmt":"2023-11-27T04:20:00","guid":{"rendered":"https:\/\/rbnews247.com\/v1\/tecnologia\/margaret-mitchell-las-personas-a-las-que-mas-perjudican-la-inteligencia-artificial-no-deciden-sobre-su-regulacion-tecnologia\/"},"modified":"2023-11-27T04:20:00","modified_gmt":"2023-11-27T04:20:00","slug":"margaret-mitchell-las-personas-a-las-que-mas-perjudican-la-inteligencia-artificial-no-deciden-sobre-su-regulacion-tecnologia","status":"publish","type":"post","link":"https:\/\/rbnews247.com\/v1\/tecnologia\/margaret-mitchell-las-personas-a-las-que-mas-perjudican-la-inteligencia-artificial-no-deciden-sobre-su-regulacion-tecnologia\/","title":{"rendered":"Margaret Mitchell: \u201cLas personas a las que m\u00e1s perjudican la inteligencia artificial no deciden sobre su regulaci\u00f3n\u201d |  Tecnolog\u00eda"},"content":{"rendered":"<p> [ad_1]<br \/>\n<\/p>\n<div data-dtm-region=\"articulo_cuerpo\">\n<p class=\"\">Margaret Mitchell, nacida en Los \u00c1ngeles, prefiere no decir la edad que tiene.  No queda claro si es por coqueter\u00eda o porque vela por la privacidad y el buen uso de los datos.  Podr\u00eda ser esto \u00faltimo, ya que es una de las mayores expertas en \u00e9tica aplicada en la tecnolog\u00eda, y ha dedicado su carrera a <a href=\"https:\/\/elpais.com\/economia\/2023-11-23\/como-impedir-que-la-inteligencia-artificial-genere-mas-carga-de-trabajo-y-mas-control-sobre-el-empleado.html\" target=\"_blank\" rel=\"noopener\">reducir los ciclos de los algoritmos<\/a>.  Fund\u00f3 y dirigi\u00f3 el departamento de \u00e9tica de la <a href=\"https:\/\/elpais.com\/noticias\/inteligencia-artificial\/\" target=\"_blank\" rel=\"noopener\">inteligencia artificial <\/a>(IA) en Google <a href=\"https:\/\/elpais.com\/tecnologia\/2021-12-12\/timnit-gebru-no-solo-es-facebook-las-redes-sociales-propagan-el-odio-con-impunidad.html\" target=\"_blank\" rel=\"noopener\">junto a Timnit Gebru<\/a>hasta que ambas <a href=\"https:\/\/elpais.com\/tecnologia\/2020-12-12\/por-que-el-despido-de-una-investigadora-negra-de-google-se-ha-convertido-en-un-escandalo-global.html\" target=\"_blank\" rel=\"noopener\">fueron despedidas<\/a> con pocos meses de diferencia hace tres a\u00f1os.  Ahora supervisa el departamento de \u00e9tica en Hugging Face, es una de las 100 personas m\u00e1s influyentes de 2023 <a href=\"https:\/\/time.com\/collection\/time100-ai\/6309005\/margaret-mitchell-ai\/\" target=\"_blank\" rel=\"noopener\">seg\u00fan la revista <i>Tiempo<\/i><\/a>y fue una de las conferencias m\u00e1s esperadas en la Smart City Expo celebrada en las instalaciones de Fira de Barcelona.<\/p>\n<p class=\"\"><b>Pregunta.<\/b> \u00bfC\u00f3mo reaccionan las tecnol\u00f3gicas cuando se advierte sobre problemas \u00e9ticos?<\/p>\n<p class=\"\"><b>Respuesta.<\/b> A las personas con las que trabajaban en Google realmente les apasionaba.  Quiz\u00e1s en un nivel m\u00e1s elevado de la compa\u00f1\u00eda no estaba muy claro que lo que hac\u00edamos era importante, quiz\u00e1s no lo entend\u00edan.<\/p>\n<p class=\"\"><b>PAG. <\/b>\u00bfPor qu\u00e9 la despidieron?<\/p>\n<p class=\"\"><b>r. <\/b>No fue porque alguien pensara que nuestros trabajos sobre \u00e9tica no eran adecuados.  Estuvo m\u00e1s relacionado con diferencias de poder, y sobre todo porque se trat\u00f3 a mi colider (Timnit Gebru) como si fuese menos que sus compa\u00f1eros, por racismo.  No pod\u00eda hacer como que no lo hab\u00eda visto o que no dir\u00eda nada.  Fue parte de una discusi\u00f3n m\u00e1s larga sobre poder y discriminaci\u00f3n sist\u00e9mica.<\/p>\n<aside class=\"a_ei\">\n<header class=\"a_ei_h _db\">M\u00e1s informaci\u00f3n<\/header>\n<\/aside>\n<p class=\"\"><b>PAG. <\/b>\u00bfA los desarrolladores de IA les importa la \u00e9tica?<\/p>\n<p class=\"\"><b>r.<\/b> Depende de qui\u00e9n.  He trabajado con muchos que siempre est\u00e1n atentos a hacer las cosas bien.  Pero la cultura del mundo del desarrollo tecnol\u00f3gico y la ingenier\u00eda tiende a favorecer un comportamiento alfa, donde quieres ser el primero en sacar algo o con mejor resultado.  Esto puede desincentivar el trabajo en consideraciones \u00e9ticas.<\/p>\n<blockquote class=\"a_q\">\n<p>Las perspectivas marginadas no se tratan como iguales de importantes en el desarrollo de las tecnolog\u00edas.<\/p>\n<\/blockquote>\n<p class=\"\"><b>PAG. <\/b>\u00bfC\u00f3mo funcionan la discriminaci\u00f3n y los sesgos en los algoritmos?<\/p>\n<p class=\"\"><b>r.<\/b> Empieza desde el principio: si las decisiones no las toma un grupo inclusivo de personas diversas, no ser\u00e1s capaz de incorporar diversidad de pensamiento en el desarrollo de tu producto.  Si no se invita a la mesa a personas marginadas, los datos y la manera en que se recopilar\u00e1n<a href=\"https:\/\/elpais.com\/opinion\/2023-11-21\/su-proximo-ceo-sera-un-robot.html\" target=\"_blank\" rel=\"noopener\"> reflejar\u00e1n la perspectiva de los que tienen poder<\/a>.  En las compa\u00f1\u00edas tecnol\u00f3gicas, tienden a ser, de forma muy desproporcionada, hombres blancos y asi\u00e1ticos.  Y ellos no se dan cuenta de que los datos que manejan no son completos, porque reflejan su visi\u00f3n.  As\u00ed, si las perspectivas marginadas no son tratadas como igual de importantes en el desarrollo de la IA, se crear\u00e1n tecnolog\u00edas que no funcionar\u00e1n para personas marginadas, o hasta les har\u00e1n da\u00f1o.  Por ejemplo, <a href=\"https:\/\/theintercept.com\/2023\/11\/06\/cruise-self-driving-cars-children\/\" target=\"_blank\" rel=\"noopener\">coches aut\u00f3nomos que no detectan a los ni\u00f1os<\/a>, porque los datos que controlan no tienen en cuenta sus comportamientos m\u00e1s ca\u00f3ticos o err\u00e1ticos.  Esto ya ocurr\u00eda con los airbags, que hac\u00edan m\u00e1s da\u00f1o a las mujeres, porque hab\u00edan sido dise\u00f1ados sin tener en cuenta que hay personas con pechos.  Hay que prestar atenci\u00f3n a las caracter\u00edsticas marginadas o que son tratadas como menores.<\/p>\n<figure class=\"a_m a_m-h \"><span class=\"_db a_m_w _pr lb_btn\"><img alt=\"Margaret Mitchell, retratada despu\u00e9s de su conferencia en el sal\u00f3n Smart City Expo, en Barcelona.\" decoding=\"auto\" class=\"_re lazyload a_m-h\" height=\"276\" srcset=\"https:\/\/imagenes.elpais.com\/resizer\/JOwDRb9j_KfzyTgBIcUyzowdXCc=\/414x0\/filters:focal(2158x1056:2168x1066)\/cloudfront-eu-central-1.images.arcpublishing.com\/prisa\/OS5PWJGMKBCGXGOF5C5L6QLAXA.jpg 414w,https:\/\/imagenes.elpais.com\/resizer\/eN-JXXJ_ZWT4Q9bNir1TegVqiKM=\/828x0\/filters:focal(2158x1056:2168x1066)\/cloudfront-eu-central-1.images.arcpublishing.com\/prisa\/OS5PWJGMKBCGXGOF5C5L6QLAXA.jpg 640w,https:\/\/imagenes.elpais.com\/resizer\/c0HuprQNdpSW8VUxv1_oPQ1CUKQ=\/980x0\/filters:focal(2158x1056:2168x1066)\/cloudfront-eu-central-1.images.arcpublishing.com\/prisa\/OS5PWJGMKBCGXGOF5C5L6QLAXA.jpg 1000w,https:\/\/imagenes.elpais.com\/resizer\/8sft-RRx6RZDbT3Vsnb2Ay01W-Y=\/1960x0\/filters:focal(2158x1056:2168x1066)\/cloudfront-eu-central-1.images.arcpublishing.com\/prisa\/OS5PWJGMKBCGXGOF5C5L6QLAXA.jpg 1960w\" width=\"414\" loading=\"lazy\" src=\"https:\/\/imagenes.elpais.com\/resizer\/JOwDRb9j_KfzyTgBIcUyzowdXCc=\/414x0\/filters:focal(2158x1056:2168x1066)\/cloudfront-eu-central-1.images.arcpublishing.com\/prisa\/OS5PWJGMKBCGXGOF5C5L6QLAXA.jpg\" sizes=\"auto, (min-width:1199px) 1155px,(min-width:1001px) calc(100vw - 44px),(min-width:768px) 767px, 100vw\"\/><svg class=\"icon_multimedia_ampliar | _pa a_m_i a_m_i-a _dn\" viewbox=\"0 0 40 40\"><use xlink:href=\"#svg-ampliar\"\/><\/svg><\/span><figcaption class=\"a_m_p\"><span>Margaret Mitchell, retratada despu\u00e9s de su conferencia en el sal\u00f3n Smart City Expo, en Barcelona.<\/span><span class=\"a_m_m\">Alberto Garc\u00eda<\/span><\/figcaption><\/figure>\n<p class=\"\"><b>PAG. <\/b>\u00bfCu\u00e1les son los grupos m\u00e1s discriminados en las IA?<\/p>\n<p class=\"\"><b>r.<\/b> Las mujeres negras, personas no binarias, gente de la comunidad LGTBIQ+ y personas latinas.  Esto lo ves tambi\u00e9n en qui\u00e9n trabaja en las compa\u00f1\u00edas tecnol\u00f3gicas y qui\u00e9n no.<\/p>\n<p class=\"\"><b>PAG. <\/b>\u00bfC\u00f3mo se puede garantizar que la tecnolog\u00eda respetar\u00e1 los valores \u00e9ticos?<\/p>\n<p class=\"\"><b>r. <\/b>Diferentes personas pueden tener diferentes valores, y algo que me ayuda a navegar en este problema es la idea del pluralismo de valores.  Me preocupa la idea de que la IA debe tener un modelo general de valores, yo prefiero la idea de una IA enfocada en tareas y valores espec\u00edficos.  Tienes que individualizar m\u00e1s los modelos para tener en cuenta los valores en cada situaci\u00f3n, el contexto y las caracter\u00edsticas de los datos que recopilas.<\/p>\n<blockquote class=\"a_q\">\n<p>Las compa\u00f1\u00edas tienen que revelar los detalles b\u00e1sicos de sus datos de entrenamiento para la inteligencia artificial.<\/p>\n<\/blockquote>\n<p class=\"\"><b>PAG.<\/b> \u00bfFalta regulaci\u00f3n y transparencia?<\/p>\n<p class=\"\"><b>r. <\/b>Las compa\u00f1\u00edas tienen que revelar los detalles b\u00e1sicos de sus datos de entrenamiento para las IA.  Quiz\u00e1s no lo hagas p\u00fablicos para todos, pero s\u00ed demuestra a auditores independientes <a href=\"https:\/\/elpais.com\/ideas\/2023-06-10\/el-gran-robo-de-la-inteligencia-artificial-alguien-pidio-permiso-para-vampirizar-todo-conocimiento-generado-por-los-humanos.html\" target=\"_blank\" rel=\"noopener\">que hay equidad en sus datos <\/a>y que usan un contexto real, no estereotipado.<\/p>\n<p class=\"\"><b>PAG.<\/b> \u00bfQu\u00e9 piensa de los que ped\u00edan una pausa en el desarrollo de IA?<\/p>\n<p class=\"\"><b>r. <\/b>Fue algo raro.  Result\u00f3 que ven\u00eda de un grupo que alertaba sobre los riesgos, pero<a href=\"https:\/\/elpais.com\/tecnologia\/2023-11-19\/de-la-fascinacion-a-la-agenda-oculta-el-ano-de-chatgpt-define-la-batalla-por-el-futuro-de-la-humanidad.html\" target=\"_blank\" rel=\"noopener\"> lo que quer\u00eda era tener m\u00e1s poder influenciando a los pol\u00edticos<\/a>.  No iba de hacer las cosas bien, iba de tener poder.  Dec\u00edan que se ha llegado a un punto en el que la IA es beneficiosa, as\u00ed que hab\u00eda que parar antes de que da\u00f1ara a la gente.  Pero lo cierto es que ya hay gente que est\u00e1 siendo da\u00f1ada, poblaciones no consideradas por ellos, y esto me hizo sentir asco.  Claro est\u00e1, ahora ellos tienen un sitio en la mesa para discutir sobre regulaciones.<\/p>\n<p class=\"\"><b>PAG.<\/b> \u00bfEs optimista sobre el futuro de la IA?<\/p>\n<p class=\"\"><b>r.<\/b> No lo soy, no.  Porque creo que la gente que m\u00e1s probablemente se ver\u00e1 perjudicada por la tecnolog\u00eda <a href=\"https:\/\/elpais.com\/tecnologia\/2023-05-19\/necesitamos-alinear-la-regulacion-de-la-inteligencia-artificial.html\" target=\"_blank\" rel=\"noopener\">no est\u00e1 en los puestos donde se habla de regulaciones<\/a>, ni toma decisiones en las grandes tecnol\u00f3gicas.  Hay cosas que se mueven, hace cuatro a\u00f1os nadie hablaba de \u00e9tica, pero esto no significa que de aqu\u00ed a 10 a\u00f1os estemos mejor.  Hay muchos caminos beneficiosos para la humanidad y no son los que se est\u00e1n siguiendo.<\/p>\n<p class=\"\"><i>Puedes seguir a <\/i><i><b>EL PA\u00cdS Tecnolog\u00eda<\/b><\/i><i>  es<\/i><a href=\"https:\/\/www.facebook.com\/elpaistecnologia\"><i>  Facebook<\/i><\/a><i>  y <\/i><a href=\"https:\/\/twitter.com\/elpais_tec\"><i>X<\/i><\/a><i>  o apuntarte aqu\u00ed para recibir nuestra <\/i><a href=\"https:\/\/plus.elpais.com\/newsletters\/lnp\/1\/356\"><i>bolet\u00edn semanal<\/i><\/a><i>.<\/i><\/p>\n<div class=\"a_s _cf\" id=\"ctn_freemium_article\">\n<h3 class=\"a_s_e\">Suscr\u00edbete para seguir leyendo<\/h3>\n<p>Lee sin l\u00edmites<\/p>\n<\/div>\n<p>_<\/p>\n<\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/>[ad_2]<br \/>\n<br \/><a href=\"https:\/\/elpais.com\/tecnologia\/2023-11-27\/margaret-mitchell-las-personas-a-las-que-mas-perjudica-la-inteligencia-artificial-no-deciden-sobre-su-regulacion.html\">Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>[ad_1] Margaret Mitchell, nacida en Los \u00c1ngeles, prefiere no decir la edad que tiene. No queda claro si es por coqueter\u00eda o porque vela por la privacidad y el buen uso de los datos. Podr\u00eda ser esto \u00faltimo, ya que es una de las mayores expertas en \u00e9tica aplicada en la tecnolog\u00eda, y ha dedicado [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":159528,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[764],"tags":[4028,3429,2647,3922,2147,7918,1119,1053,3538,73,6275,6276,385],"class_list":["post-159527","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-alphabet","tag-barcelona","tag-chatgpt","tag-empresas","tag-etica","tag-fira-barcelona","tag-google","tag-inteligencia-artificial","tag-internet","tag-legislacion","tag-openai","tag-sam-altman","tag-tecnologia","et-has-post-format-content","et_post_format-et-post-format-standard"],"_links":{"self":[{"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/posts\/159527","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/comments?post=159527"}],"version-history":[{"count":0,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/posts\/159527\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/media\/159528"}],"wp:attachment":[{"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/media?parent=159527"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/categories?post=159527"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/rbnews247.com\/v1\/wp-json\/wp\/v2\/tags?post=159527"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}