Download enmiendas 1
Document related concepts
Transcript
Parlamento Europeo 2014-2019 Comisión de Libertades Civiles, Justicia y Asuntos de Interior 2015/2103(INL) 11.10.2016 ENMIENDAS 1 - 87 Proyecto de opinión Michał Boni (PE589.153v01-00) Normas de Derecho civil sobre robótica (2015/2103(INL)) AM\1106630ES.docx ES PE592.162v01-00 Unida en la diversidad ES AM_Com_NonLegOpinion PE592.162v01-00 ES 2/49 AM\1106630ES.docx Enmienda 1 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Tiziana Beghin, David Borrelli, Daniela Aiuto Proyecto de opinión Considerando A Proyecto de opinión Enmienda A. Considerando que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea, pero también para la vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. A. Considerando que el desarrollo de la robótica aportará beneficios a la economía de la Unión Europea, y también a la vida cotidiana de las personas; que esto implica al mismo tiempo riesgos estructurales que sería imprudente ignorar; que toda la tecnología de robótica, inteligencia artificial y disciplinas innovadoras afines deberá desarrollarse, supervisarse y utilizarse tomando debidamente en consideración las leyes y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular la dignidad humana y los derechos de protección de datos y metadatos, la vida privada, la libertad y la seguridad. Or. it Enmienda 2 Eleftherios Synadinos Proyecto de opinión Considerando A Proyecto de opinión Enmienda A. Considerando que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea, pero también para la vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de A. Considerando que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea, pero también para la vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de AM\1106630ES.docx 3/49 PE592.162v01-00 ES los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad, y también la vida privada y familiar; Or. el Enmienda 3 Notis Marias Proyecto de opinión Considerando A Proyecto de opinión Enmienda A. Considerando que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea, pero también para la vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. A. Considerando que se prevé que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea; que no está claro, sin embargo, cómo afectará a la vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. Or. el Enmienda 4 Lorenzo Fontana Proyecto de opinión Considerando A Proyecto de opinión Enmienda A. Considerando que el desarrollo de la robótica tendrá repercusiones positivas para la economía de la Unión Europea, pero también para la vida cotidiana de las personas; que toda la tecnología de PE592.162v01-00 ES A. Considerando que el desarrollo de la robótica tendrá con seguridad numerosas repercusiones para los ciudadanos de la Unión Europea, con cambios económicos, pero también para la 4/49 AM\1106630ES.docx robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. vida cotidiana de las personas; que toda la tecnología de robótica e inteligencia artificial deberá desarrollarse y utilizarse tomando debidamente en consideración los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales (CDF), en particular los derechos de protección de datos, vida privada, libertad y seguridad. Or. it Enmienda 5 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Considerando A bis (nuevo) Proyecto de opinión Enmienda A bis. Considerando que todas las actividades de investigación e innovación realizadas en el marco del programa Horizonte 2020, artículo 19, han de respetar los principios éticos y la legislación nacional, de la Unión e internacional pertinente, incluidos la Carta de los Derechos Fundamentales de la Unión Europea y el Convenio Europeo de Derechos Humanos y sus protocolos adicionales, concediendo especial atención al principio de proporcionalidad, al derecho a la intimidad, al derecho a la protección de los datos personales, al derecho a la integridad física y psíquica de la persona y al derecho a la no discriminación; Or. en Enmienda 6 Louis Michel Proyecto de opinión Considerando A bis (nuevo) AM\1106630ES.docx 5/49 PE592.162v01-00 ES Proyecto de opinión Enmienda A bis. Considerando que el desarrollo de 28 legislaciones nacionales que regulen la utilización de la tecnología robótica y la inteligencia artificial llevaría a una fragmentación de las normas vigentes en la Unión y sería un obstáculo para el desarrollo del mercado único europeo y para el establecimiento de garantías comunes de alto nivel en materia de protección de los derechos fundamentales de los ciudadanos al respeto de la vida privada, la protección de los datos personales, la seguridad y la protección; Or. fr Enmienda 7 Helga Stevens, Daniel Dalton Proyecto de opinión Considerando A bis (nuevo) Proyecto de opinión Enmienda A bis. Considerando que los avances tecnológicos en el ámbito de la robótica y de la inteligencia artificial pueden ser un factor para garantizar y mejorar los derechos fundamentales de las personas con discapacidad; señala por lo tanto que es esencial garantizar un acceso inclusivo y equitativo a esas tecnologías; Or. en Enmienda 8 Enrico Gasbarra Proyecto de opinión Considerando A bis (nuevo) Proyecto de opinión PE592.162v01-00 ES Enmienda 6/49 AM\1106630ES.docx A bis. Considerando que, al desarrollar nuevos paradigmas tecnológicos y productivos, deben tenerse en cuenta la protección de los datos y el respeto de la propiedad intelectual; Or. it Enmienda 9 Notis Marias Proyecto de opinión Considerando A bis (nuevo) Proyecto de opinión Enmienda (A bis) Considerando que el uso generalizado y cada vez más habitual de la robótica y de la inteligencia artificial ha provocado indudablemente distintas reacciones y objeciones; Or. el Enmienda 10 Louis Michel Proyecto de opinión Considerando A ter (nuevo) Proyecto de opinión Enmienda A ter. Considerando que debería establecerse una distinción entre el uso recreativo de las tecnologías vinculadas a la robótica y la inteligencia artificial, por una parte, y el uso profesional de esta tecnología, por otra; que deberían prohibirse para el uso recreativo determinadas tecnologías especialmente invasivas; que la tecnología con un alto riesgo de ser intrusiva debería respetar imperativamente los principios de proporcionalidad y legitimidad; AM\1106630ES.docx 7/49 PE592.162v01-00 ES Or. fr Enmienda 11 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Considerando A ter (nuevo) Proyecto de opinión Enmienda A ter. Considerando que el Reglamento general de protección de datos de la UE, que entrará en vigor en 2018, abarca la evolución de la robótica y la inteligencia artificial e incluye salvaguardias tales como las restricciones de la toma de decisiones individuales automatizadas, lo que afecta significativamente a los usuarios; Or. en Enmienda 12 Enrico Gasbarra Proyecto de opinión Considerando A ter (nuevo) Proyecto de opinión Enmienda A ter. Considerando que muchos terceros países han adoptado orientaciones y legislaciones adecuadas en materia de robótica y que algunos Estados miembros también han emprendido reflexiones específicas al respecto; Or. it Enmienda 13 Louis Michel Proyecto de opinión PE592.162v01-00 ES 8/49 AM\1106630ES.docx Considerando A quater (nuevo) Proyecto de opinión Enmienda A quater. Considerando que el riesgo de piratería supone una auténtica amenaza para la seguridad interior y un riesgo añadido para la protección de los datos y de la vida privada; Or. fr Enmienda 14 Helga Stevens, Daniel Dalton Proyecto de opinión Apartado 1 Proyecto de opinión Enmienda 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots para complementar el marco jurídico europeo; considera que en el ámbito de la inteligencia artificial se requiere más investigación e información para elaborar normas y principios éticos que funcionen para el diseño y la ingeniería; subraya que en la actualidad no existen normas éticas viables en el ámbito de la inteligencia artificial y que la aplicación de sistemas éticos en la inteligencia artificial, incluso a nivel teórico, ha resultado ser una cuestión muy complicada; Or. en Enmienda 15 Ádám Kósa Proyecto de opinión Apartado 1 AM\1106630ES.docx 9/49 PE592.162v01-00 ES Proyecto de opinión Enmienda 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo a fin de garantizar que esta tecnología mejore realmente la calidad de vida de los ciudadanos; Or. hu Enmienda 16 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 1 Proyecto de opinión Enmienda 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. 1. Considera que es indispensable determinar normas y principios éticos que orienten el diseño, la fabricación y el uso de robots, de inteligencia artificial y de disciplinas innovadoras afines para complementar el actual marco jurídico europeo; Or. it Enmienda 17 Lorenzo Fontana Proyecto de opinión Apartado 1 Proyecto de opinión Enmienda 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. PE592.162v01-00 ES 1. Considera que son indispensables normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para tener un marco jurídico europeo actualizado; 10/49 AM\1106630ES.docx Or. it Enmienda 18 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 1 Proyecto de opinión Enmienda 1. Considera que son necesarias normas y principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. 1. Considera que son necesarios principios éticos que orienten el diseño, la fabricación y el uso de robots e inteligencia artificial para complementar el marco jurídico europeo. Or. en Enmienda 19 Ádám Kósa Proyecto de opinión Apartado 2 Proyecto de opinión Enmienda 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia, en particular en el caso de los sistemas ciberfísicos que pueden llevarse o AM\1106630ES.docx 11/49 PE592.162v01-00 ES implantarse en el cuerpo humano; Or. hu Enmienda 20 Dario Tamburrano, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Tiziana Beghin, Laura Ferrara, Daniela Aiuto Proyecto de opinión Apartado 2 Proyecto de opinión Enmienda 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; 2. Considera que la robótica, los sistemas de inteligencia artificial y las disciplinas innovadoras afines, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje e incluso con automodificación evolutiva, deben someterse a un conjunto articulado de principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; Or. it Enmienda 21 Eleftherios Synadinos Proyecto de opinión Apartado 2 Proyecto de opinión 2. Considera que la robótica y los PE592.162v01-00 ES Enmienda 2. 12/49 Considera que la robótica y los AM\1106630ES.docx sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada o independencia y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos o a los seres vivos en general y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; Or. el Enmienda 22 Notis Marias Proyecto de opinión Apartado 2 Proyecto de opinión Enmienda 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto y la protección de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; AM\1106630ES.docx 13/49 PE592.162v01-00 ES Or. el Enmienda 23 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 Proyecto de opinión Enmienda 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la seguridad, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; Or. en Enmienda 24 Helga Stevens, Daniel Dalton Proyecto de opinión Apartado 2 Proyecto de opinión Enmienda 2. Considera que la robótica y los sistemas de inteligencia artificial, especialmente aquellos con autonomía integrada y posibilidad de autoaprendizaje, deben someterse a las leyes o principios primordiales de la robótica, como el principio de que un PE592.162v01-00 ES 2. Reconoce que en la actualidad no existe ninguna normativa conceptual sólida sobre robótica o inteligencia artificial y que esta cuestión está siendo objeto de un amplio debate en el ámbito académico; reitera su petición de que se investigue más en el ámbito de la ética 14/49 AM\1106630ES.docx robot no puede hacer daño a los seres humanos y debe obedecer a los seres humanos; indica que estos principios deben respetar también los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; relativa a la inteligencia artificial también para aumentar la probabilidad de que esas futuras normativas en materia de robótica se adapten a los derechos y los principios consagrados en la CDF, en particular la dignidad humana, el respeto de la vida privada y la vida familiar, la protección de los datos personales, la libertad de expresión e información, la igualdad y la no discriminación, la solidaridad y los derechos de los ciudadanos y la justicia; Or. en Enmienda 25 Jan Philipp Albrecht Proyecto de opinión Apartado 2 bis (nuevo) Proyecto de opinión Enmienda 2 bis. Subraya que esos principios podrían ser los siguientes: - Los robots y la inteligencia artificial son herramientas multiuso. Los robots y la inteligencia artificial no deben estar diseñados exclusiva o principalmente para matar o hacer daño a seres humanos. Los derechos individuales y las libertades fundamentales deben estar garantizados; en particular, la integridad humana (integridad física y mental), la dignidad humana y la identidad. Subrayamos que los seres humanos prevalecen frente al interés exclusivo de la ciencia o de la sociedad; - Los seres humanos son agentes responsables. Los legisladores deben asegurarse de que las tecnologías emergentes cumplen la legislación vigente y respetan los derechos fundamentales; - Los robots y la inteligencia artificial como productos deben estar concebidos de modo que sean seguros, fiables y que AM\1106630ES.docx 15/49 PE592.162v01-00 ES cumplan su función, al igual que otros productos; - Los robots y la inteligencia artificial son objetos fabricados. No deberán estar diseñados para de manera engañosa explotar a usuarios vulnerables; por el contrario, su naturaleza automática ha de ser transparente; - Debe designarse a una persona con responsabilidad jurídica con respecto a un robot o inteligencia artificial. En caso de negligencia grave en relación con la seguridad, los productores serán considerados responsables incluso aunque existan cláusulas de exención de responsabilidad en los acuerdos con los usuarios; - De conformidad con la investigación y la innovación responsables, deberá tenerse en cuenta el principio de cautela. Or. en Enmienda 26 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 2 bis (nuevo) Proyecto de opinión Enmienda 2 bis. Considera que los robots no deben estar diseñados para explotar a usuarios vulnerables provocando una respuesta o una dependencia emocional; Or. en Enmienda 27 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 ter (nuevo) PE592.162v01-00 ES 16/49 AM\1106630ES.docx Proyecto de opinión Enmienda 2 ter. Subraya el «derecho a la explicación» previsto en el Reglamento general de protección de datos que permite a los usuarios pedir explicaciones sobre una decisión algorítmica que les concierne, asegurando así la equidad, la inclusión y la igualdad; Or. en Enmienda 28 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 quater (nuevo) Proyecto de opinión Enmienda 2 quater. Pide una estrecha colaboración entre profesionales de la salud y los del ámbito de la robótica de rehabilitación, con el fin de garantizar el pleno respeto de los principios de ética médica y de elegir con conocimiento de causa entre las exigencias de eficacia de atención, seguridad, independencia del paciente, integridad y protección de la privacidad; Or. en Enmienda 29 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 2 quinquies (nuevo) Proyecto de opinión Enmienda 2 quinquies. Insta a las partes interesadas pertinentes del ámbito de la salud (investigadores, profesionales de la salud, psicólogos) a que aborden el AM\1106630ES.docx 17/49 PE592.162v01-00 ES impacto psicológico de la interacción terapéutica entre personas y robots, en particular en el desarrollo de capacidades emocionales, sobre todo en la infancia temprana y las personas vulnerables; además, insiste en la necesidad de definir claramente el estatus y las capacidades de los robots, evitando que las personas vulnerables y los menores desarrollen un vínculo afectivo o una relación de dependencia con los robots, aislándolos de la realidad; Or. en Enmienda 30 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 sexies (nuevo) Proyecto de opinión Enmienda 2 sexies. Considera que las tecnologías de robótica e inteligencia artificial extraen, recopilan y comparten información de naturaleza particularmente delicada con una amplia gama de partes interesadas, en especial, aunque no exclusivamente, en ámbitos como los cuidados en el hogar y la salud; a) insiste en que la robótica y la inteligencia artificial deben reservar un lugar central al interesado y permitirle el control de sus datos personales; b) pide a la Comisión que defina un marco de «ética desde el diseño» para los investigadores, académicos e ingenieros en el ámbito de la robótica y de la inteligencia artificial, que se base en los principios consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (como la dignidad humana y los derechos humanos, la igualdad, la justicia y la equidad, la beneficencia y no maleficencia, la no discriminación y no PE592.162v01-00 ES 18/49 AM\1106630ES.docx estigmatización, la autonomía y la responsabilidad individual, el consentimiento informado, la privacidad y la responsabilidad social, así como los derechos de las personas mayores, la integración de las personas con discapacidad, el derecho a la atención sanitaria y de protección del consumidor), además de en los principios de privacidad desde la concepción y por sistema, y los principios de proporcionalidad y necesidad, y en las prácticas y códigos éticos existentes, sin obstaculizar la investigación y la evolución tecnológica; Or. en Enmienda 31 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 2 septies (nuevo) Proyecto de opinión Enmienda 2 septies. Celebra la existencia del Grupo Europeo sobre la ética en la ciencia y las nuevas tecnologías y espera que su mandato le permita desempeñar un papel de liderazgo en la elaboración de un marco ético europeo basado en el respeto de la privacidad, la ingeniería respetuosa y en la autonomía de los individuos, y que vele por que las tecnologías del futuro respeten la dignidad humana; pide a la Comisión que reúna y establezca vínculos entre varios proyectos e iniciativas de la Unión en el ámbito de la ética en la robótica, como el programa SPARC y el proyecto RoboLaw; Or. en Enmienda 32 Emilian Pavel, Vilija Blinkevičiūtė AM\1106630ES.docx 19/49 PE592.162v01-00 ES Proyecto de opinión Apartado 2 octies (nuevo) Proyecto de opinión Enmienda 2 octies. Pide a la Comisión que determine las repercusiones sociales del desarrollo de las capacidades humanas mediante la robótica, prestando especial atención al comportamiento social; Or. en Enmienda 33 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 nonies (nuevo) Proyecto de opinión Enmienda 2 nonies. Pide a la Comisión y a los Estados miembros que garanticen que toda legislación en el campo de la robótica se base en un enfoque de neutralidad tecnológica basado en principios y en investigaciones empíricas, con el fin de garantizar que la legislación de la Unión no se queda a la zaga en la curva del desarrollo y el despliegue tecnológicos; Or. en Enmienda 34 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 2 decies (nuevo) Proyecto de opinión Enmienda 2 decies. Pide a la Comisión y a los Estados miembros que promuevan una cooperación estrecha y transparente entre PE592.162v01-00 ES 20/49 AM\1106630ES.docx el público, el sector privado y el mundo académico, que permita reforzar el intercambio de conocimientos en el ámbito de la robótica y evaluar las implicaciones éticas y el respeto de los derechos fundamentales en el ámbito de la robótica y de la inteligencia artificial; Or. en Enmienda 35 Ádám Kósa Proyecto de opinión Apartado 3 Proyecto de opinión Enmienda 3. Recuerda que el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE, se aplican a todos los ámbitos de la robótica y la inteligencia artificial, y que debe respetarse plenamente el marco jurídico de la Unión en materia de protección de datos; 3. Recuerda que el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE, se aplican a todos los ámbitos de la robótica y la inteligencia artificial, y que debe respetarse plenamente el marco jurídico de la Unión en materia de protección de datos, en particular en el caso de los sistemas ciberfísicos que pueden llevarse o implantarse en el cuerpo humano; Or. hu Enmienda 36 Ádám Kósa Proyecto de opinión Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad AM\1106630ES.docx 21/49 PE592.162v01-00 ES y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos, teniendo en cuenta que los sistemas ciberfísicos son sistemas que comprenden ordenadores enlazados en red, robots e inteligencia artificial que interactúan con un entorno artificial integrado, y que determinados elementos de estos sistemas pueden llevarse en el cuerpo humano o incluso implantarse en el mismo, todo lo cual plantea cuestiones éticas, sociofilosóficas y de derechos humanos, en particular en lo que respecta a la autodeterminación, la integridad personal y la protección de los datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; Or. hu Enmienda 37 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica, inteligencia artificial y disciplinas innovadoras afines contengan normas relativas a la privacidad y la protección de datos y metadatos, teniendo en cuenta la rápida evolución en este ámbito, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad PE592.162v01-00 ES 22/49 AM\1106630ES.docx cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; en relación con el procesamiento de datos y metadatos; pide, entre otras cosas, la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots, sistemas de inteligencia artificial y disciplinas innovadoras afines, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; Or. it Enmienda 38 Enrico Gasbarra Proyecto de opinión Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; pide que se preste especial atención a las implicaciones que los ensayos de producción de las nuevas tecnologías de la robótica puedan tener desde un punto de vista ético; Or. it Enmienda 39 Jan Philipp Albrecht Proyecto de opinión AM\1106630ES.docx 23/49 PE592.162v01-00 ES Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; así como los principios de minimización de datos y de limitación de la finalidad, pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; Or. en Enmienda 40 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; 4. Pide a la Comisión que garantice que el desarrollo y el uso de la robótica y de la inteligencia artificial se rijan por la reglamentación vigente y las normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen los principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de PE592.162v01-00 ES 24/49 AM\1106630ES.docx protección de datos; Or. en Enmienda 41 Eleftherios Synadinos Proyecto de opinión Apartado 4 Proyecto de opinión Enmienda 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; 4. Pide a la Comisión que garantice que todos los actos legislativos de la Unión sobre robótica e inteligencia artificial contengan normas relativas a la privacidad y la protección de datos, el requisito de que se apliquen principios de privacidad desde la concepción y por sistema, así como los principios de proporcionalidad y necesidad en relación con el procesamiento de datos; pide la revisión de las normas, los principios y los criterios relativos al uso de cámaras y sensores para supervisión y registro en robots y sistemas de inteligencia artificial, de acuerdo con el marco jurídico de la Unión en materia de protección de datos; Or. el Enmienda 42 Louis Michel Proyecto de opinión Apartado 4 bis (nuevo) Proyecto de opinión Enmienda 4 bis. Pide a la Comisión que garantice que toda futura legislación sobre robótica e inteligencia artificial incluya normas y medidas relativas al suministro de información a los usuarios y a la transparencia en relación con los AM\1106630ES.docx 25/49 PE592.162v01-00 ES instrumentos de toma de decisiones automatizadas, robotizadas o procedentes de la inteligencia artificial que tengan repercusiones sobre los derechos fundamentales de dichos usuarios; insiste a este respecto en la necesidad de garantizar mecanismos de control y vías de recurso apropiadas; Or. fr Enmienda 43 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 4 bis (nuevo) Proyecto de opinión Enmienda 4 bis. Destaca la importancia de prevenir la vigilancia a gran escala mediante tecnologías de robótica e inteligencia artificial; Or. en Enmienda 44 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 4 ter (nuevo) Proyecto de opinión Enmienda 4 ter. Destaca que es fundamental que los procesos por los cuales los robots domésticos recogen, procesan y utilizan datos personales sean transparentes y comprensibles, incluidas las condiciones de uso de algoritmos; Or. en PE592.162v01-00 ES 26/49 AM\1106630ES.docx Enmienda 45 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 4 quater (nuevo) Proyecto de opinión Enmienda 4 quater. Pide que se eduque y se forme a los consumidores sobre el modo de utilizar robots o tecnologías de inteligencia artificial, centrándose en temas como la seguridad y la confidencialidad de los datos; Or. en Enmienda 46 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 4 quinquies (nuevo) Proyecto de opinión Enmienda 4 quinquies. Pide que los robots o las tecnologías de inteligencia artificial se diseñen con mecanismos de salida fáciles de usar (botones de interrupción de urgencia) que los usuarios puedan aplicar en caso de detectar un error o un uso indebido de sus datos; Or. en Enmienda 47 Ádám Kósa Proyecto de opinión Apartado 5 Proyecto de opinión Enmienda 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la AM\1106630ES.docx 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la 27/49 PE592.162v01-00 ES robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; robótica; pone de relieve, sin embargo, que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial, en particular en el caso de los sistemas ciberfísicos que pueden llevarse o implantarse en el cuerpo humano; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, incluido el principio básico de que es la persona que lleva dispositivos la que tiene derecho a disponer de los dispositivos colocados sobre su cuerpo o dentro del mismo y de los datos recogidos por estos dispositivos, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación, teniendo en cuenta que el desarrollo de la robótica puede colocar a las personas en una situación vulnerable que a su vez puede provocar conflictos de intereses entre el individuo y la sociedad, de manera que estas innovaciones solo deberían respaldarse en el caso de que también estuvieran protegidos los derechos humanos inalienables; Or. hu Enmienda 48 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 5 Proyecto de opinión PE592.162v01-00 ES Enmienda 28/49 AM\1106630ES.docx 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; 5. Subraya que el flujo de datos dentro de la Unión es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica, la inteligencia artificial y las disciplinas innovadoras afines en su conjunto, incluidos sus sistemas internos de datos y flujos de datos y metadatos, es fundamental para una utilización adecuada de la robótica, la inteligencia artificial y las disciplinas innovadoras afines; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots, los sistemas de inteligencia artificial y las disciplinas innovadoras afines, junto con altas prestaciones de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; pide, por consiguiente, que se incorporen en todo proyecto ejecutivo tecnologías y procedimientos de control adecuados, acompañados, cuando sea necesario, de revisiones exhaustivas a posteriori llevadas a cabo por consultores éticos independientes u órganos similares; Or. it Enmienda 49 Notis Marias Proyecto de opinión Apartado 5 Proyecto de opinión Enmienda 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia AM\1106630ES.docx 29/49 PE592.162v01-00 ES artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial especialmente alto y eficiente, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; Or. el Enmienda 50 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 5 Proyecto de opinión Enmienda 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; 5. Subraya que el flujo de datos es primordial para la economía digital y es fundamental para el desarrollo de la robótica y la inteligencia artificial; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la PE592.162v01-00 ES 30/49 AM\1106630ES.docx concepción y los canales de comunicación; Or. en Enmienda 51 Helga Stevens, Daniel Dalton Proyecto de opinión Apartado 5 Proyecto de opinión Enmienda 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; 5. Subraya que el flujo de datos es la base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz y de lenguaje de signos; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; Or. en Enmienda 52 Eleftherios Synadinos Proyecto de opinión Apartado 5 Proyecto de opinión 5. Enmienda Subraya que el flujo de datos es la AM\1106630ES.docx 5. 31/49 Subraya que el flujo de datos es la PE592.162v01-00 ES base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación; base de la economía digital y es fundamental para el desarrollo de la robótica; pone de relieve que un alto grado de seguridad de la robótica y la inteligencia artificial en su conjunto, incluidos sus sistemas internos de datos y flujos de datos, es fundamental para una utilización adecuada de la robótica y la inteligencia artificial; destaca que debe garantizarse un alto grado de protección, seguridad y privacidad de los datos utilizados para la comunicación entre las personas y robots y sistemas de inteligencia artificial, junto con una elevada calidad de los sistemas de reconocimiento de voz; pide a la Comisión y a los Estados miembros que apoyen e incentiven el desarrollo de la tecnología necesaria, incluida la seguridad desde la concepción y los canales de comunicación y codificación; Or. el Enmienda 53 Ádám Kósa Proyecto de opinión Apartado 5 bis (nuevo) Proyecto de opinión Enmienda 5 bis. Subraya que podría desarrollarse un vínculo emocional entre el ser humano y el robot, en particular en los grupos vulnerables (niños, personas mayores y personas con discapacidad), y destaca las graves consecuencias físicas o emocionales que esta relación emocional podría tener sobre el usuario humano si los sistemas ciberfísicos se apagaran o si los datos se perdieran o se borraran; Or. hu Enmienda 54 PE592.162v01-00 ES 32/49 AM\1106630ES.docx Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 5 bis (nuevo) Proyecto de opinión Enmienda 5 bis. Pide a la Comisión que supervise los procesos de aprendizaje en red de inteligencia artificial o robots interconectados, por lo que se refiere al posible uso indebido de datos personales o violaciones de la seguridad que puedan producirse, así como a la propiedad, el control y el almacenamiento de datos; Or. en Enmienda 55 Jan Philipp Albrecht Proyecto de opinión Apartado 5 bis (nuevo) Proyecto de opinión Enmienda 5 bis. Opina que, en caso de negligencia grave con respecto a la seguridad y la protección, debe considerarse responsables a los fabricantes de programas informáticos y equipos comerciales pese a las cláusulas de exención de responsabilidad previstas en los acuerdos con el usuario; Or. en Enmienda 56 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 5 ter (nuevo) Proyecto de opinión AM\1106630ES.docx Enmienda 33/49 PE592.162v01-00 ES 5 ter. Considerando que las violaciones de datos y los ataques cibernéticos constituyen problemas importantes, en particular en el desarrollo de sistemas interconectados que recopilan y procesan grandes cantidades de datos, existe la necesidad de sistemas de ciberseguridad de aplicación compleja (por diseño) capaces de proteger datos personales y datos generados por una máquina; considera que la codificación de extremo a extremo es fundamental para proteger los datos y anima a que se siga investigando en este ámbito; Or. en Enmienda 57 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Subtítulo 4 Proyecto de opinión Enmienda Drones (sistemas de aeronaves pilotadas a distancia) Drones y robots no tripulados en conflictos bélicos Or. en Enmienda 58 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 6 Proyecto de opinión Enmienda 6. Subraya que cuando los datos personales son procesados por sistemas de aeronaves pilotadas a distancia (RPAS por sus siglas en inglés), ya sea por autoridades públicas para fines de garantía del cumplimiento de la ley o por entidades 6. Subraya que, en caso de que los datos o metadatos personales sean procesados mediante la utilización de sistemas de aeronaves pilotadas a distancia (RPAS por sus siglas en inglés), ya sea por autoridades públicas para fines de garantía PE592.162v01-00 ES 34/49 AM\1106630ES.docx privadas o públicas para otros fines, deben respetarse plenamente el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE; del cumplimiento de la ley o por entidades privadas o públicas para otros fines previstos por la ley, deben respetarse plenamente el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE; Or. it Enmienda 59 Eleftherios Synadinos Proyecto de opinión Apartado 6 Proyecto de opinión Enmienda 6. Subraya que cuando los datos personales son procesados por sistemas de aeronaves pilotadas a distancia (RPAS por sus siglas en inglés), ya sea por autoridades públicas para fines de garantía del cumplimiento de la ley o por entidades privadas o públicas para otros fines, deben respetarse plenamente el derecho a la protección de la vida privada y el derecho a la protección de los datos personales, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE; 6. Subraya que cuando los datos personales son procesados por sistemas de aeronaves pilotadas a distancia (RPAS por sus siglas en inglés), ya sea por autoridades públicas para fines de garantía del cumplimiento de la ley o por entidades privadas o públicas para otros fines, deben respetarse plenamente el derecho a la protección de la vida privada y el derecho a la protección de los datos personales y de los derechos a la libertad y la seguridad, consagrados en los artículos 7 y 8 de la CDF y en el artículo 16 del TFUE; Or. el Enmienda 60 Jan Philipp Albrecht Proyecto de opinión Apartado 6 bis (nuevo) Proyecto de opinión Enmienda 6 bis. Reitera su llamamiento al Consejo de la UE para que elabore una posición AM\1106630ES.docx 35/49 PE592.162v01-00 ES común de la UE sobre el uso de drones armados, dando la máxima importancia al respeto de los derechos humanos y del Derecho internacional humanitario y abordando cuestiones como el marco jurídico, la proporcionalidad, la rendición de cuentas, la protección de los civiles y la transparencia; insta una vez más a la UE a que prohíba la producción, el desarrollo y el uso de armas totalmente autónomas que permitan realizar ataques sin intervención humana; insiste en que los derechos humanos deben formar parte de todos los diálogos con terceros países sobre la lucha contra el terrorismo; Or. en Enmienda 61 Louis Michel Proyecto de opinión Apartado 6 bis (nuevo) Proyecto de opinión Enmienda 6 bis. Pide a la Comisión que estudie la posibilidad de obligar a equipar los RPAS con un sistema tecnológico de seguimiento e identificación que permita conocer en tiempo real la posición de los RPAS durante su utilización, así como la del propietario del aparato; Or. fr Enmienda 62 Martina Anderson Proyecto de opinión Apartado 6 bis (nuevo) Proyecto de opinión Enmienda 6 bis. Reconoce los avances positivos en la tecnología de los drones, en particular PE592.162v01-00 ES 36/49 AM\1106630ES.docx en el ámbito de la búsqueda y el salvamento, y considera que esta es la dirección que debe seguir la Unión en relación con el progreso de la tecnología de los drones. Or. en Enmienda 63 Notis Marias Proyecto de opinión Apartado 6 bis (nuevo) Proyecto de opinión Enmienda 6 bis. Pide, por lo tanto, que se establezca imperativamente un marco riguroso y eficaz de la Unión que restrinja la utilización de los sistemas aéreos electrónicos pilotados de forma remota y de las aeronaves no pilotadas; Or. el Enmienda 64 Martina Anderson Proyecto de opinión Apartado 6 ter (nuevo) Proyecto de opinión Enmienda 6 ter. Todas las novedades en este ámbito deben regirse por las normas éticas y de derechos humanos más rigurosas en relación con la privacidad y la protección de datos. Esta tecnología solo deberá aplicarse de forma constructiva, progresista y social. Los fondos de la Unión para investigación e innovación no deberán servir nunca para impulsar el desarrollo de dispositivos militares no tripulados. AM\1106630ES.docx 37/49 PE592.162v01-00 ES Del mismo modo, no deberán concederse fondos para ningún proyecto que pueda tener un doble uso civil y militar. Or. en Enmienda 65 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 6 ter (nuevo) Proyecto de opinión Enmienda 6 ter. Pide a la Comisión y a los Estados miembros que inicien un amplio diálogo político intergubernamental con el objetivo de lograr un consenso internacional sobre: a) las normas jurídicas aplicables a la utilización de sistemas de armas no tripuladas operativas en la actualidad, y; b) las restricciones jurídicas y/o las reservas éticas aplicables con respecto a la evolución futura, la proliferación y el uso de sistemas de armas cada vez más autónomos; Or. en Enmienda 66 Jan Philipp Albrecht Proyecto de opinión Apartado 6 ter (nuevo) Proyecto de opinión Enmienda 6 ter. Subraya la necesidad de promover una respuesta política a escala mundial en relación con el uso de los drones armados con vistas a mantener su uso estrictamente dentro de los límites del Derecho internacional en materia de PE592.162v01-00 ES 38/49 AM\1106630ES.docx derechos humanos y del Derecho humanitario; de promover una prohibición del desarrollo, la producción y el uso de armas totalmente autónomas que permitan realizar ataques sin intervención humana; de velar por que los derechos humanos formen parte de todos los diálogos con terceros países sobre la lucha contra el terrorismo; Or. en Enmienda 67 Emilian Pavel, Vilija Blinkevičiūtė, Caterina Chinnici Proyecto de opinión Apartado 6 quater (nuevo) Proyecto de opinión Enmienda 6 quater. Sobre la base de los resultados del anterior proceso de creación de consenso, la UE debería esforzarse por lograr la adopción de un acuerdo internacional vinculante, que tenga por objeto limitar el desarrollo, la proliferación y el uso de determinados sistemas de armas no tripulados; Or. en Enmienda 68 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 6 quinquies (nuevo) Proyecto de opinión Enmienda 6 quinquies. Considera que toda legislación sobre el uso de drones y de robots no tripulados en conflictos bélicos debe basarse en el Derecho internacional en materia de derechos humanos, en el Derecho humanitario internacional y en AM\1106630ES.docx 39/49 PE592.162v01-00 ES la protección del derecho a la vida con arreglo a los usos y costumbres, en el Derecho internacional aplicable a los conflictos armados y en los principios generales del Derecho; Or. en Enmienda 69 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 6 sexies (nuevo) Proyecto de opinión Enmienda 6 sexies. Insiste en que en la aplicación del principio de distinción, los responsables de la planificación y realización de un ataque militar han de tomar todas las precauciones posibles para evitar ataques por error y daños contra civiles («daños colaterales»), dado que, si bien algunos drones de guerra y robots no tripulados están programados para distinguir entre civiles y militares, el proceso de toma de decisiones no está claro en estos casos; Or. en Enmienda 70 Caterina Chinnici Proyecto de opinión Subrúbrica 5 bis (nueva) Proyecto de opinión Enmienda Menores 8. Destaca que el desarrollo de la robótica debería tener en cuenta los efectos sobre las personas vulnerables, en particular sobre los menores, y considera, por lo tanto, que este aspecto particular debe PE592.162v01-00 ES 40/49 AM\1106630ES.docx tenerse en cuenta a la hora de elaborar la legislación adecuada; (Esta nueva Subrúbrica 5 bis, con el nuevo apartado 8, debería colocarse después de la última subrúbrica del PA titulada «Código de Conducta» y del apartado 7 (es decir, después de todas las nuevas incorporaciones al apartado 7 resultantes de enmiendas).) Or. it Enmienda 71 Notis Marias Proyecto de opinión Apartado 7 Proyecto de opinión Enmienda 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. 7. Considera que una legislación adecuada debe ir acompañada de un código de conducta para las relaciones públicoprivadas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos; Or. el Enmienda 72 Ádám Kósa Proyecto de opinión Apartado 7 Proyecto de opinión 7. Enmienda Considera que una legislación AM\1106630ES.docx 7. 41/49 Considera que una legislación PE592.162v01-00 ES adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana; destaca el riesgo de que los sistemas ciberfísicos en el cuerpo humano sean objeto de un ataque informático o sean desactivados, o de que se borre la memoria, ya que esto podría poner en peligro la salud de las personas o, en casos extremos, su vida, por lo que destaca que es fundamental proteger estos sistemas; Or. hu Enmienda 73 Enrico Gasbarra Proyecto de opinión Apartado 7 Proyecto de opinión Enmienda 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. PE592.162v01-00 ES 42/49 AM\1106630ES.docx pide a la Comisión que presente directrices sobre los principios éticos que acompañarán las futuras normas en materia de robótica, en particular con el objetivo de definir normas de largo alcance y adaptadas a las modificaciones tecnológicas futuras; Or. it Enmienda 74 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 7 Proyecto de opinión Enmienda 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. 7. Considera que una legislación adecuada debe ir acompañada, en sectores específicos en los que los correspondientes estudios señalen como prematuro el desarrollo de una regulación, del estímulo de un marco de Derecho indicativo que pueda estar compuesto por, entre otros elementos, un código de conducta o asociaciones públicoprivadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas y con todas las otras partes interesadas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la dignidad humana, la privacidad y la protección de los datos y metadatos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial y otras disciplinas innovadoras afines en la vida cotidiana; Or. it Enmienda 75 AM\1106630ES.docx 43/49 PE592.162v01-00 ES Aldo Patriciello Proyecto de opinión Apartado 7 Proyecto de opinión Enmienda 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco de Derecho indicativo, códigos de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana. 7. Considera que una legislación adecuada debe ir acompañada del estímulo de un marco jurídico uniforme en la Unión, un código de conducta o asociaciones público-privadas, a fin de garantizar la cooperación de la industria y los diseñadores de robótica con las autoridades públicas; considera que estos instrumentos deben centrarse en soluciones prácticas para garantizar la privacidad y la protección de los datos, la seguridad y la ética de la industria de la robótica y el uso adecuado de robots y sistemas de inteligencia artificial en la vida cotidiana; Or. it Enmienda 76 Ádám Kósa Proyecto de opinión Apartado 7 bis (nuevo) Proyecto de opinión Enmienda 7 bis. Considera que debe ser un principio fundamental que nadie pueda sufrir discriminación por el hecho de que un sistema ciberfísico u otra tecnología capacitadora sea parte integral de su cuerpo, tanto si la tecnología inteligente se ha implantado en el cuerpo humano con fines terapéuticos, para compensar alguna discapacidad o para potenciar las capacidades del cuerpo humano; considera que hay que dar respuesta, a este respecto, a la pregunta de cuál es el momento en que las personas dejan de ser seres humanos y se convierten en robots, lo que puede tener como consecuencia PE592.162v01-00 ES 44/49 AM\1106630ES.docx que se otorguen derechos humanos a robots; considera que hay que investigar para determinar si existen diferencias entre los derechos de un ser humano robotizado (es decir, con sistemas ciberfísicos incorporados) y los de un robot humanizado (por ejemplo, la capacidad de aprender, de sentir emociones y de adquirir conciencia). Or. hu Enmienda 77 Emilian Pavel, Vilija Blinkevičiūtė Proyecto de opinión Apartado 7 bis (nuevo) Proyecto de opinión Enmienda 7 bis. Pide un enfoque horizontal en el marco jurídico de la robótica y la inteligencia artificial que combine los marcos reglamentarios ya existentes en diversos sectores a los que se aplicaría la robótica, como el transporte, la sanidad, la producción industrial, las telecomunicaciones, el orden público, entre otros muchos; Or. en Enmienda 78 Jan Philipp Albrecht Proyecto de opinión Apartado 7 bis (nuevo) Proyecto de opinión Enmienda 7 bis. Debe prestarse especial atención a los robots asistenciales que plantean una clara amenaza a la privacidad, ya que se espera que aporten nuevos puntos de acceso a los espacios tradicionalmente protegidos a través de la extracción y AM\1106630ES.docx 45/49 PE592.162v01-00 ES transmisión de información sobre datos personales de carácter sensible; Or. en Enmienda 79 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 7 bis (nuevo) Proyecto de opinión Enmienda 7 bis. Pide a la Comisión que desarrolle y aplique un plan de estudios completo sobre las posibles consecuencias que las tecnologías invasoras tendrán en las libertades civiles y los derechos fundamentales; Or. it Enmienda 80 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 7 ter (nuevo) Proyecto de opinión Enmienda 7 ter. Pide a la Comisión que elabore un plan de acción que facilite la democratización del acceso de los ciudadanos a la robótica, la inteligencia artificial y otras disciplinas innovadoras afines; Or. it Enmienda 81 Jan Philipp Albrecht PE592.162v01-00 ES 46/49 AM\1106630ES.docx Proyecto de opinión Apartado 7 ter (nuevo) Proyecto de opinión Enmienda 7 ter. El carácter dual del impacto de la tecnología sobre las capacidades humanas debe considerarse siempre desde el punto de vista ético y reglamentario; Or. en Enmienda 82 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 7 quater (nuevo) Proyecto de opinión Enmienda 7 quarter. Pide a la Comisión y a los Estados miembros que, habida cuenta de los posibles riesgos estructurales que podrían surgir en los próximos decenios, presten más atención a políticas representativas de los derechos sociales como la renta ciudadana; Or. it Enmienda 83 Jan Philipp Albrecht Proyecto de opinión Apartado 7 quater (nuevo) Proyecto de opinión Enmienda 7 quater. Los algoritmos subyacentes y sus parámetros deben quedar explícitos como requisito obligatorio; Or. en AM\1106630ES.docx 47/49 PE592.162v01-00 ES Enmienda 84 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Daniela Aiuto, Tiziana Beghin, David Borrelli Proyecto de opinión Apartado 7 quinquies (nuevo) Proyecto de opinión Enmienda 7 quinquies. Pide a los Estados miembros y a la Comisión que promuevan cada vez más la enseñanza y la formación digital en las políticas relativas al derecho al estudio; Or. it Enmienda 85 Jan Philipp Albrecht Proyecto de opinión Apartado 7 quinquies (nuevo) Proyecto de opinión Enmienda 7 quinquies. Los diseñadores de robots y de inteligencia artificial deberán recibir formación especial sobre los aspectos éticos en el diseño de algoritmos; Or. en Enmienda 86 Jan Philipp Albrecht Proyecto de opinión Apartado 7 sexies (nuevo) Proyecto de opinión Enmienda 7 sexies. Los diseñadores de robótica y de inteligencia artificial tienen la responsabilidad de desarrollar y aplicar procedimientos para garantizar el PE592.162v01-00 ES 48/49 AM\1106630ES.docx consentimiento válido, la confidencialidad, el anonimato, el trato justo y el respecto de la legalidad; Or. en Enmienda 87 Dario Tamburrano, Laura Ferrara, Ignazio Corrao, Isabella Adinolfi, Laura Agea, Tiziana Beghin, David Borrelli, Daniela Aiuto Proyecto de opinión Apartado 7 sexies (nuevo) Proyecto de opinión Enmienda 7 sexies. Pide a la Comisión que lleve a cabo estudios que profundicen en la posible correlación, en los próximos años, entre automatización y fenómenos migratorios. Or. it AM\1106630ES.docx 49/49 PE592.162v01-00 ES