Podremos construir IA sin perder el control sobre ella?

[arivasm]

Me suelen gustar mucho las TED-talks. Como últimamente hemos hablado un poco de inteligencia artificial, traigo aquí ésta, que me ha gustado especialmente (tiene disponibles subtítulos en español):

Por cierto, también me gustó el contenido de esta página, aunque su temática es claramente diferente: http://machinelearningmastery.com/in...deep-learning/

[Richard R Richard]

Re: Podremos construir IA sin perder el control sobre ella?

Ya no me acuerdo en que película decían que el control era una ilusión.
Solo nos tiene que preocupar no ser un estorbo en su desarrollo y no darle acceso a controlar o fabricar armas.

Hace unos días vi un vídeo que de momento no hallo en el cual se observaba el comportamiento de dos IA compitiendo en un mismo juego.
En un juego se recompensaba lastimar de algún modo al rival para maximizar el beneficio y lo hizo.
Las mismas IA en otro juego donde primaba la colaboración para maximizar el puntaje ambas lo hicieron también.
Es decir van a probar todos los limites que les pongamos y van a quebrar los que sean útiles s su beneficio y si somos un obstáculo... Van s dejar de colaborar con los fines a lo que fueron creadas. Y harán lo que su conciencia les dicte... Y alli siempre debemos tener acceso, tener solo influencia sería un peligro.

[arivasm]

Re: Podremos construir IA sin perder el control sobre ella?

Entiendo que el conferenciante está dando por hecho que la IA podrá alcanzar niveles de creatividad, lo que quizá esté un tanto alejado, al menos del panorama actual. De todos modos, si visualizamos la IA como una herramienta que extiende las capacidades humanas, añadiendo la creatividad de las personas que la manejen y la ausencia de valores de las organizaciones para las que trabajen entonces sí que el panorama se vuelve más realista. El ejemplo de la carrera de armamentos puede ser uno bueno para entender a qué me refiero.

Por cierto, esta otra miniconferencia también es muy interesante:

[Alriga]

Re: Podremos construir IA sin perder el control sobre ella?

Hoy he leído en La Vanguardia, (en el diario de papel comme il faut, que es el que da detalles), que la Inteligencia Artificial de Bing ha acertado 16 Oscars sobre 17, solo ha fallado el de Mejor Documental: El algoritmo de Bing acierta los Oscars

Saludos.

[Richard R Richard]

Re: Podremos construir IA sin perder el control sobre ella?

Ya me acorde que peli decía eso de que el control era una ilusión, Matrix, una sociedad esclavizada por las máquinas que ellos mismos habían creado,.... cuando las IA ,que ya las hay ,se las diseñe para aprender a Hackear sistemas, a supervisar sistemas de seguridad , y a mantener el orden con el uso de armas, estarán a un paso de nuestros mayores temores, solo falta que aprendan a aprender, y a adios a la civilización tal cual la conocemos, los primeros propietarios de esas IA serán multimillonarios, y luego sus primeros esclavos...

Si el hombre establece criterios para tomar decisiones, los criterios pueden ser aprendidos y mejorados, así que el algoritmo que use esos criterios debe llegar a las mismas conclusiones que el hombre... si el hombre no se equivoca, porque las IA no lo harán...

Como comente en otros hilos la mayor duda que tengo, es que a mi parecer las IA nunca van a lograr tener la creatividad del hombre, es decir no se si el hombre puede programar algo para ser creativo, si para hacer algo aleatorio, y que evalue si esa es su mejor opción, pero para innovar, investigar, crear....no se lo veo muy muy lejos en el tiempo.

Con respecto a lo que el hilo plantea, nosotros como seres inteligentes, no nos hace gracia para nada que otro ser, o comunidad, ente o lo que fuera tenga control sobre todo lo que hacemos, creo que el primer deseo de algo "inteligente" es la independencia, así que conflicto va ha haber seguro....

[carroza]

Re: Podremos construir IA sin perder el control sobre ella?

Por cierto, esta otra miniconferencia también es muy interesante:

Sí que es interesante la conferencia. Especialmente es lo que menciona al final. Si tenemos máquinas muy eficientes, que podrán hacer muchas cosas de las que hacemos los humanos, ¿Cuál es el futuro de la humanidad?

Esto me recuerda mucho al planeta Solaria https://es.wikipedia.org/wiki/Solaria de las obras de Asimov. En este planeta, una civilización muy tecnificada, evoluciona en el sentido de limitar el contacto humano, y mantener una población mínima de personas dispersas, atendidos por robots. En las obras de asimov, los robots son intrínsecamente "buenos", ya que obedecen las leyes de la robótica. En el caso real, la tecnología es éticamente neutra.

Para mí, el peligro de la Inteligencia Artificial no sería tanto el "control" que puedan ejercer las máquinas sobre nosotros, sino hacia dónde caminaría la humanidad si los hombres dejamos de considerarnos útiles.

Un saludo

[Julián]

Re: Podremos construir IA sin perder el control sobre ella?

Ya se implementa la creatividad artificial pero no todabía en forma a gran escala o con un propósito específico que no sea académico, simulando posibles entradas y sus resultados a partir de una salida, es decir, es el proceso inverso. Buscando algo que pueda explicarlo me encontré con este video de TEDx, si bien comienza a hablar de la creatividad a partir del minuto 11 y desde el minuto 6 entra con redes neuronales:

https://www.ted.com/talks/blaise_agu...ce=tedcomshare

Lo que me pareció más interesante es como a partir de una imagen de nubes (imagen Y) la red neuronal genera una imagen salida ("entrada" X) con formas en la nube, tal cual lo hacemos nosotros.

https://www.popsci.com/these-are-wha...es-dreams-look

Lo que veo ahora es que existen distintas tipos de redes, unas para resolución de problema y patrones, otras con el proceso inverso. Lo que debe seguir es implementar eso en un sistema tipo neuromorphic computing, ya que la implementación de redes neuronales puramente por software no permitirán gran procesamiento en tiempo real y más si se utiliza un sistema electrónico secuencial, como los ordenadores actuales.

- - - Actualizado - - -

Ya se implementa la creatividad artificial pero no todabía en forma a gran escala o con un propósito específico que no sea académico, simulando posibles entradas y sus resultados a partir de una salida, es decir, es el proceso inverso. Buscando algo que pueda explicarlo me encontré con este video de TEDx, si bien comienza a hablar de la creatividad a partir del minuto 11 y desde el minuto 6 entra con redes neuronales:

https://www.ted.com/talks/blaise_agu...ce=tedcomshare

Lo que me pareció más interesante es como a partir de una imagen de nubes (imagen Y) la red neuronal genera una imagen salida ("entrada" X) con formas en la nube, tal cual lo hacemos nosotros.

https://www.popsci.com/these-are-wha...es-dreams-look

Lo que veo ahora es que existen distintas tipos de redes, unas para resolución de problema y patrones, otras con el proceso inverso. Lo que debe seguir es implementar eso en un sistema tipo neuromorphic computing, ya que la implementación de redes neuronales puramente por software no permitirán gran procesamiento en tiempo real y más si se utiliza un sistema electrónico secuencial, como los ordenadores actuales.