El hombre: Un palacio industrial

Seguro que a muchos les suena el póster de la derecha (clic para ampliar). Es una de las obras más célebres del inquieto médico alemán Fritz Kahn. Además de ejercer la medicina como ginecólogo, fue un popular ilustrador, escritor y divulgador científico. Tenía una predilección especial por representar el cuerpo humano como una empresa industrial llena de intrincadas maquinarias. Nada raro, si tenemos en cuenta que sus obras se concentraron en las primeras décadas del siglo XX.

Pueden disfrutar de una extensa colección de imágenes de su obra en Fritz Kahn: Man Machine. La mayoría de ellas están llenas de ingenio, belleza y tampoco falta el humor. No se pierdan el diagrama del sistema de erección del hombre.

A modo de homenaje, Henning M. Lederer y David Indge están desarrollando una aplicación interactiva basada en el famoso póster de Kahn “El hombre: Un palacio industrial” y nos dejan un encantador vídeo del mismo.

Vìdeo

.

Eres lo que comes

Inteligencia artificial y grandes datos

Un tema común en los escritos recientes sobre la inteligencia de las máquinas es que las mejores nuevas máquinas que aprendan constituirán más bien formas alien de inteligencia. No estoy tan seguro. El razonamiento detrás de la imagen de las ‘IAs alien’ suele ir más o menos así. La mejor forma de lograr que las máquinas resuelvan problemas difíciles del mundo real es configurarlas como máquinas que aprendan y que tengan capacidad estadísticamente sensible de beneficiarse al máximo de su contacto con los datos masivos. Dichas máquinas aprenderán con frecuencia a resolver problemas complejos detectando patrones, y patrones entre patrones, y patrones dentro de patrones, ocultos en la profundidad de los flujos de datos masivos que se les presentan. Esto se logrará con más probabilidad utilizando algoritmos de «aprendizaje profundo» para explotar cada vez con mayor profundidad en los flujos de datos. Después de que dicho aprendizaje se complete, su resultado podría ser un sistema que funciona pero cuyas estructuras de conocimiento son opacas para los ingenieros y programadores que configuraron el sistema al principio.

¿Opacas? En un sentido, sí. No sabremos con detalle (al menos sin más trabajo) qué se ha codificado como resultado de todo ese aprendizaje profundo, multinivel y orientado estadísticamente. ¿Peroalien? Voy a jugármela mucho en este punto y a hacer una prueba de carretera de una afirmación posiblemente extravagante. Sospecho que cuanto más aprendan estas máquinas, más acabarán pensando de maneras que son reconociblemente humanas. Acabarán teniendo una amplia estructura de conceptos de tipo humano con los que abordar sus tareas y decisiones. Podrán incluso aprender a aplicar categorías emocionales y éticas de formas aproximadas a las nuestras. Si estoy en lo cierto, esto socava de algún modo la preocupación común de que éstas son inteligencias alien emergentes cuyos objetivos e intereses no podemos desentrañar, y que por tanto se podrían volver contra nosotros de formas inesperadas. En cambio, sospecho que las formas en que podrían volverse contra nosotros serán demasiado familiares, y por tanto esperanzadoramente evitables mediante los pasos habituales de extender el debido respeto y la libertad.

¿Por qué las máquinas pensarían como nosotros? La razon de ello no tiene nada que ver con que nuestras formas de pensar sean objetivamente correctas o únicas. En su lugar, tiene que ver con algo que llamaré «la cadena alimenticia de los datos masivos». Estas IAs, si van a surgir como formas plausibles de inteligencia general, tendrán que aprender consumiendo los inmensos rastros electrónicos de la experiencia humana y los intereses humanos. Para esto está el mayor repositorio de datos generales sobre el mundo que tenemos disponible. Para liberarse de los restringidos dominios unidimensionales, estas IAs tendrán que rastrear los mares cotidianos de palabras e imágenes que depositamos en Facebook, Google, Amazon y Twitter. Donde antes habrían sido obligadas a una dieta de objetos astronómicos o rompecabezas de plegamientos de proteínas, las inteligencias generales más avanzadas necesitarán una dieta más rica y más variada. Esa dieta será el estrato acumulado de experiencia humana preservado en nuestros medios electrónicos diarios.

Los baños estadísticos en los que sumergemos a estas potentes máquinas de aprendizaje también nos resultarán demasiado familiares. Se alimentarán de las huellas fósiles de nuestros propios compromisos, de tropecientas imágenes de lozanos bebés, de gatos LOL, y de patatas que se parecen al Papa. Estas son las cosas que deben procesar en un modelo mundial multinivel, encontrando las características, entidades y propiedades (variables latentes) que capturan mejor los flujos de datos a los cuales están expuestas. Alimentadas con dicha dieta, estas IAs tienen pocas opciones salvo desarrollar un modelo mundial que tiene mucho en común con el nuestro. Tienen probablemente más peligro de convertirse en monstruitos de Súper Mario que en supervillanos que intentan dominar el mundo.

Una diagnosis así (que es tentativa y al menos un poco juguetona) va contra dos opiniones dominantes. Primero, como he dicho antes, va contra la opinión de que las IAs actuales y futuras son básicamente formas alien de la inteligencia que se alimentan de datos masivos y procesan estadísticas de formas que volverán a sus inteligencias cada vez más opacas a la comprensión humana. Por el contrario, el acceso a más datos, del tipo más libremente disponible, no las hará más alien, sino menos.

Segundo, cuestiona la opinión de que la ruta real a la comprensión al estilo humano es la encarnación al estilo humano, con todas las potencialidades interactivas (estar de pie, sentarse, saltar, etc.) que comporta. Porque aunque nuestra propia ruta típica a la comprensión del mundo discurre a través de estas interacciones, parece bastante posible que la suya no las necesite. Dichos sistemas disfrutarán de algunos medios (probablemente muchos y variados) de interactuar con el mundo físico. Estos encuentros se combinarán, sin embargo, con su contacto con vías de rica información que reflejen nuestros modos de interactuar con el mundo. Así que parece posible que pudieran llegar a comprender y apreciar el fútbol y el béisbol tanto como cualquier persona. Se podría hacer una comparación apta con un ser humano con diferentes capacidades.

Hay mucho más que pensar aquí, por supuesto. Por ejemplo, las IAs verán inmensas hileras de huellas electrónicas humanas, y por tanto serán capaces de discernir patrones de influencia entre ellas a lo largo del tiempo. Eso significa que podrían llegar a modelarnos menos como individuos y más como una especie de complejo sistema distribuido. Eso es algo distinto que podría cambiar las cosas. ¿Y qué hay de la motivación y la emoción? ¿Quizá dependan esencialmente de rasgos de nuestra encarnación humana como los instintos y las respuestas viscerales al peligro? Tal vez, pero tengamos en cuenta que estos rasgos de la vida humana han dejado huellas fósiles en nuestros repositorios electrónicos.

Podría equivocarme. Pero como mínimo, creo que deberíamos pensárnoslo dos veces antes de categorizar a las IAs de nuestra huerta como formas alien de inteligencia. Eres lo que comes, y estos sistemas aprendedores tendrán que comernos. Gran momento.  

Traducción de Verónica Puertollano. Publicado en EDGE

.

La IA frankesteiniana

Mi aforismo favorito de Edsger Dijkstra es este: «La pregunta de si las máquinas pueden pensar es tan importante como la de si los submarinos pueden nadar». Sin embargo, seguimos jugando al juego de la imitación: preguntar lo cerca que estamos de que la inteligencia de la máquina pueda doblar a la nuestra, como si ese fuese el verdadero asunto. Por supuesto, una vez que te imaginas máquinas con sentimientos como los humanos y con libre albedrío, es posible concebir una mala conducta de la inteligencia de la máquina; la IA como una idea Frankenstein. El concepto está en pleno resurgimiento, y al principio pensé que era exagerado. Últimamente he llegado a la conclusión de que no lo es.

1935

Aquí va el argumento sobre la exageración. La inteligencia de las máquinas puede ir en muchas direcciones. Es un fallo de la imaginación centrarse en direcciones como las humanas. La mayoría de los primeros conceptos futuristas de la inteligencia de las máquinas eran sumamente equivocados, porque las computadoras han logrado hacer cosas que los humanos no hacen bien. Las máquinas son increíblemente buenas clasificando listas. Tal vez eso suene aburrido, pero pensemos en cuánta clasificación eficiente ha cambiado el mundo.

En respuesta a algunas de las preguntas planteadas aquí, no está ni mucho menos claro que vaya a haber jamás una razón práctica para que las máquinas tengan emociones y diálogo interior; pasar por humanas bajo un interrogatorio extenso; desear, ser capaces de hacer uso de derechos legales y civiles. Son máquinas, y pueden ser cualquier cosa que nosotros hayamos diseñado que sean.

Pero esa es la cuestión. Algunas personas querrán una inteligencia de máquina antropomórfica. ¿Cuántos vídeos de robots japoneses han visto? Honda, Sony e Hitachi ya han dedicado sustanciales recursos a hacer una IA muy mona, pero sin ningún valor concreto más allá de la publicidad corporativa. Lo hacen sin mejor motivo que el que los entusiastas de la tecnología hayan crecido viendo robots y computadoras inteligentes en las películas.

Casi todo lo que se ha concebido –que sea físicamente posible y razonablemente barato– ya se ha hecho. Así que la inteligencia de la máquina con aspecto humano es un meme con un destino manifiesto, al margen del valor práctico. Esto podría conllevar máquinas-que-piensan amables, obedeciendo las leyes de Asimov. Pero una vez que la tecnología esté ahí fuera, se hará cada vez más barata y se filtrará al nivel de los aficionados, los hackers y las organizaciones de «derechos de las máquinas». Va a haber interés en crear máquinas con voluntad, cuyos intereses no son los nuestros. Y eso sin considerar qué máquinas podrían elaborar los terroristas, los regímenes malvados y las agencias de inteligencia de naciones menos malvadas. Creo que el concepto de la IA frankensteiniana, que se vuelve contra sus creadores, es algo que merece que se tome en serio.

.

Hora de (re)flexionar: el tiempo colectivo

Si el reloj es la respuesta, ¿cuál es la pregunta?

UN RELOJ NO ES UN INSTRUMENTO PARA MEDIR LA HISTORIA, SINO UNA HERRAMIENTA CAPAZ DE MEDIRSE A SÍ MISMO HASTA LÍMITES INVEROSÍMILES.

  Reloj atómico  

Nuestra experiencia del paso del tiempo es una construcción fascinante y compleja; sin embargo, para la física cuántica es sólo un añejo punto de partida: una más de las coordenadas cuyas hipótesis se desestabilizan y desmadejan una por una. Pero uno de los científicos que entienden el tiempo mejor que nadie es el guardián del reloj (¡vaya cargo!) de los Estados Unidos, Tom O’Brian.

O’Brian es el operario de una de las máquinas más sofisticadas jamás construidas, que impresiona tanto por la precisión de su función como por la sencillez de la misma: es uno de los relojes atómicos más precisos del mundo, sólo amenazado por el de Andrew Ludlow, que puede compensar incluso cambios gravitacionales.

En opinión personal de O’Brian, “el tiempo es un constructo humano”, “una manera de poner algún tipo de orden en este universo fascinante y complejo a nuestro alrededor.”

El reloj de O’Brian utiliza átomos de cesio para contar 0.0000000000000001 de segundo a la vez. Su precisión es tal que si se le hubiera echado a andar hace 300 millones de años, mucho tiempo antes de la aparición de los dinosaurios, el reloj no se habría descalibrado.

¿Pero qué tiempo marca realmente el reloj, este reloj o cualquier reloj?

   Calendario azteca  

Jun Ye, uno de los científicos que construyó el reloj de estronio de Boulder, Colorado, afirma que este es capaz de llevar correctamente la cuenta del tiempo por 5 mil millones de años. “Es más o menos la edad de la Tierra. Nuestra meta es tener un reloj que, durante toda la edad del universo, no pierda un segundo.”

Y es que, en cuestión de relojes, todas nuestras opiniones parecen desfasadas, a destiempo. Incluso podríamos decir que la búsqueda por llevar la cuenta del tiempo tiene lindes religiosos-trascendentes que hay que recalcar. Pensemos que algunas de las más increíbles creaciones de la antigüedad fueron calendarios y sistemas para contabilizar el tiempo, para fijar la materia huidiza en acumulación de instantes concretos: segundos, minutos, días, años, siglos, milenios, eras, eones, dioses.

Micah Hanks ha considerado incluso la posibilidad de que estas piezas de relojería magistral puedan contradecir nuestra idea de un tiempo homogéneo, permanente, inmutable. Los relojes atómicos son los más precisos de su tipo, una cumbre de la tecnología, pero no pueden hacer sino medir su propio funcionamiento.

Un reloj es un instrumento que se mide a sí mismo. Que puede medirse a sí mismo con infatigable precisión, pero que –fuera de permitirnos sincronizar nuestros relojes con los de todos los demás, reproduciendo con finalidad la misma ilusión de experiencia colectiva a través del calendario– nunca podrá decirnos qué es el tiempo, ni cómo funciona.

Un reloj, aún el más avanzado del mundo, parece destinado para decirnos desde los más disímiles puntos de vista –religiosos, iniciáticos, científicos– la respuesta a la pregunta qué hora es. No es tarea menor.

Twitter del autor: @javier_raya

.

La máquina para pesar los pensamientos

Si los apuntes de Leonardo da Vinci sobre máquinas voladoras se consideran un precedente del aeroplano de los hermanos Wright, los trabajos del médico italiano Angelo Mosso bien podrían ser el antepasado más directo de las modernas máquinas para escanear el cerebro. Hace apenas un par de años, el neurocientífico Stefano Sandrone, del King's College de Londres, encontró los manuscritos perdidos de este médico italiano y entre ellos los dibujos en los que describe la "balanza de la circulación humana", el dispositivo que construyó en 1882 y con el que pretendía comprobar si determinadas tareas mentales requerían una mayor circulación de la sangre y la balanza, por tanto, se inclinaba por el peso del cerebro.

Seguir leyendo en: La máquina para pesar los pensamientos 

(Next)

.

El hombre nunca será superado por las máquinas

Ya hace años que la Inteligencia Artificial persigue emular las capacidades del ser humano a través de la tecnología. Esta disciplina ha aportado grandes avances tecnológicos, muy útiles y beneficiosos, en diferentes campos. También estos avances han dado lugar a usos perjudiciales de esas mismas tecnologías. 

Pero ahora, algunos expertos en IA, como ya ocurrió en los años 80, auguran que las máquinas llegarán a superar al ser humano. Creen que la construcción de máquinas basadas en un hardware tan sofisticado que pueda efectuar un billón de operaciones por segundo, hará que dichas máquinas estén en condiciones de superar a la inteligencia humana.  

Ante el fracaso de hacer un software equivalente a las capacidades del ser humano, ahora se propugna que es el hardware lo que hará posible que la máquina supere al hombre…, llegando a “evolucionar” y creándose a sí misma su propio software y hardware cada vez más evolucionados, hasta llegar a un punto que escapará a las capacidades de los humanos. Denominan a este hecho “singularidad tecnológica”. Afirman incluso que estas máquinas llegarán a despertar como una entidad autoconsciente. Esto es, desde el punto de vista psicológico, sencillamente ridículo. 
 
Y aunque no ponemos en duda los beneficios que puedan tener los avances tecnológicos futuros, que nos continuarán sorprendiendo en los próximos años, son tantos los errores conceptuales sobre el ser humano en estas teorías sobre IA, que daría para escribir un libro. 

 
No confundir inteligencia con capacidad técnica 
  
Un simple análisis de la estructura psicológica del ser humano nos muestra que una máquina nunca podrá superarnos en inteligencia, motivación, altruismo, sentimientos, creatividad, conciencia, es decir, en las cualidades más elevadas del ser humano. En fuerza sí, en velocidad de cálculo sí, en precisión sí, en inteligencia nunca. 

Así, dotar a un robot de sensores que detecten su propio bajo nivel de energía, no se puede equiparar con la interocepción humana. A una reacción programada para ejecutarse a un nivel crítico de energía para mantener en funcionamiento el sistema, no se le puede llamar “tener miedo”. A programas para evitar situaciones que puedan dañar al robot no se les puede llamar “dolor” o “sufrimiento físico”. A sistemas complejos de análisis de datos, de fuentes internas o externas, aunque tengan innumerables variables y tipos de respuesta, no se les puede llamar “razonamiento”, y mucho menos “inteligencia”. 

Captar datos del entorno a través de sensores no es “percibir la realidad”. Tampoco se puede denominar “toma de decisiones” a una respuesta derivada de un algoritmo matemático en función de unos datos. Ni se puede equiparar la posibilidad de que el sistema mejore su adecuación de respuesta, teniendo en cuenta ensayos y errores previos con el aprendizaje humano. Sin mencionar los aspectos lingüísticos ni el sentido común. 

Un robot nunca tendrá sentimientos, ni motivaciones, ni intenciones. Decir esto manifiesta un gran desconocimiento de la naturaleza humana. Dotar de dientes artificiales a un robot y que los muestre, no es lo mismo que sonreír, mucho menos sentir alegría. 
 
Imitar el comportamiento humano no es ser un humano 
 
Este cúmulo de pretensiones, de distorsiones del lenguaje y de la realidad, ha llevado a estos ilógicos vaticinios. Imitar el comportamiento humano no es ser un humano. Y por muy sofisticada que sea la imitación, no dejara de ser eso, una imitación. 

Simplificando, podemos entender claramente que la máquina se basa siempre en capacidad de memoria y velocidad de procesamiento, es decir, procedimientos mecánicos en un sentido amplio. La computación, por compleja que sea, se basa en procesos mecánicos. Por tanto, las máquinas podrán ser más eficientes en todo aquello que precise capacidades mecánicas, como en el caso de una supercomputadora o el vehículo explorador de Marte Curiosity. 

Pero el ser humano es mucho más que eso.  Y aunque aún debemos aprender a solucionar nuestros errores psicológicos, como la competencia, la envidia, el odio, el miedo y todo lo que nos impide colaborar y vivir en paz unos con otros..., eso es parte de nuestra evolución, evolución psicológica principalmente. 
 
En este sentido, las actividades más elevadas y fructíferas del ser humano requieren la capacidad de prestar atención, tanto interna como externa, y ésta no consiste en recoger datos. La conciencia humana tiene la capacidad de comprender, inventar, investigar, captar, intuir,  percibir, aprender, encontrar soluciones creativas, sentir agradecimiento, amor, bondad, compasión, còlera,  empatía…, y éstas son cosas que nunca podrá hacer una máquina. 

Mente y actualidad

.

¿Qué hacemos cuando llegue el futuro?

Aunque estamos lejos de vivir como en la serie animada Los supersónicos, estamos cerca de guerras inhumanas, en el sentido de que los hombres no serán quienes enfrenten físicamente al enemigo, sino sus máquinas.

Vivir con robots ha sido un sueño durante décadas.

Autos blindados que se manejan solos, sorteando toda clase de obstáculos y detectando peligros en cualquier terreno ya son una realidad, y de eso a armarlos y programarlos para usar esas armas, no hay mucho.

Los aviones no tripulados que ya usa Estados Unidos en lugares como Pakistán y hasta México pueden ser fácilmente precursores de ese futuro que ya casi es presente.

Lejos de los campos de batalla, a pesar de que falta mucho para tener un mayordomo androide, ya hay "enfermeros" robots, y se habla de casas y oficinas inteligentes.

Y mucho de esto es atractivo.

El problema es precisamente que los robots distan de ser listos.

"Hablamos de 'casas inteligentes' ¡No hemos logrado siquiera enseñarles sentido común!", exclama, en conversación con BBC Mundo, el experto en ética robótica de la Universidad de Sussex, Blay Whitby.

¿Dónde está el futuro?

Cuando se le pregunta a los científicos, que han pasado años haciendo realidad lo que la cultura popular pronosticó en los años '60, por qué el futuro no ha llegado, responden que sencillamente no habíamos calculado bien cuán difícil era ser inteligente.

       " Enseñarles a ser inteligentes es más difícil de lo que pensaba " 

La cantidad de procesos, reflexiones, intuiciones, sensaciones que implica tomar la más simple de las decisiones -patear un balón- es tal que sólo la naturaleza ha sido capaz de programar.

Los robots, dice Whitby, "son admirables en cierto sentido, pero muchos problemas simples no han sido resueltos. Algo que descubrimos al trabajar en inteligencia artificial (IA) durante 54 años -si uno toma la fecha de la Conferencia de Domat- es que la inteligencia es mucho más complicada y multidimensional de lo que pensamos al principio".

Por ejemplo, si uno pensaba que ser inteligente es poder jugar al ajedrez, entonces las computadoras lo son. Pero si uno quiere que un robot se pasee por la sala de la casa o encuentre las medias, ese es un problema que aún no se ha podido resolver.

Y resulta que encontrar las medias no es un problema trivial.

"Un ejemplo de algo en lo que ha estado trabajando la gente desde el principio es visión para las computadoras. Una aplicación de ello son las cámaras CCTV, que están en todas partes. Pero tenemos que pagarle a humanos para que miren las pantallas para saber si algo malo está pasando", señala el científico.

"Uno pensaría, dado que se trata de un patrón de señales electrónicas recogidas por la cámara, que ya habríamos sido capaces de diseñar un programa de computador que reconociera cuando algo diferente estuviera pasando -no tiene que ser muy sofisticado, sólo reconocer que lo que está pasando es inusual y disparar una alarma- pero nadie lo ha podido hacer. Están trabajando en ello y quizás suceda pronto pero ese problema tan simple no ha sido solucionado por cinco décadas", añade.

El problema es que los humanos tienen que entender cómo lo hacen ellos, antes de poderlos programar.

""No sabemos cómo lo hacemos, y hay muchas cosas que asumíamos que sabíamos cómo lo hacíamos, porque lo hemos estado haciendo durante miles de años, pero resulta que no sabemos cómo sucede".

En el campo de batalla

Uno de los escenarios en los que se podría pensar que los robots serían más bienvenidos es la guerra.

""Para los soldados que 

van a estar en el terreno, 

un robot inteligente es un

soldado tonto que van a 

tener que cuidar. Se va a 

perder o dañar o perder 

contacto y ellos van a 

tener que ir a buscarlo."

Blay Whitby

Sin embargo, según cuenta Whitby, los militares están muy conscientes tanto de los beneficios, como de los problemas de depender de una máquina en situaciones peligrosas.

"Cuando voy a conferencias y escucho a los militares, me da la impresión de que ellos no quieren más inteligencia en sus robots. Quieren ser ellos quienes los manejan. Para los soldados que van a estar en el terreno, un robot inteligente es un soldado tonto que van a tener que cuidar. Se va a perder o dañar o perder contacto y ellos van a tener que ir a buscarlo".

Por su parte, los altos rangos prefieren que no haya interferencias en lacadena de comando.

"Ellos necesitan saber quién es responsable. Como dijo un general en una de las conferencias que atendí: "mientras yo esté en control,siempre habrán dedos humanos en el gatillo".

Así que, a pesar de que mucha financiación en el campo de la robótica proviene de los departamentos de Defensa, según Whitby, el deseo de autonomía viene más bien de los fabricantes.

Y en ese sentido surgen varias preguntas, que es lo que incumbe a un experto en ética robótica.

Si un robot sofisticado se daña en territorio enemigo, ¿qué se debe hacer? ¿Debería tener la posibilidad de matar a gente en defensa propia? Quizás tendría sentido, pero ¿qué pasa si se trata de niños jugando? ¿O es mejor explotarlo a control remoto? ¿Incluso si se dañó en medio de una zona poblada?

En el hogar

Interrogantes de este estilo se presentan no sólo en las zonas en conflicto sino también en la vida cotidiana.

"Para que le sirva bebidas, tiene que entrar en su casa" 

Una de las cosas que le preocupan a eticistas como Whitby es que, como todos sabemos, la gente tiene a esconderse detrás de las computadoras. No dicen: "no le permitimos hacer eso" sino "la computadora no deja que usted haga eso".

"No ha habido una discusión acerca de cuáles tareas pueden ser llevadas a cabo por una computadora y cuáles no deberían dejarse en sus manos", señala el experto.

"Hoy en día, cuando uno va a sacar una tarjeta de crédito, habla con un ser humano, pero la decisión la toma una computadora. Así que, ¿cuán lejos le gustaría que eso se extendiera? ¿Le parecería bien que lo juzgara una computadora en el tribunal? Quizás sí, pero tiene que haber una discusión, pues hasta ahora la razón por la cual se utilizan computadoras es para ahorrar en la nómina".

Otro buen ejemplo son las niñeras robot... ¿dejaría a sus niños bajo el cuidado de una computadora? En este momento en Europa eso sería ilegal. Pero puede haber ventajas: el robot le puede llamar al celular si algo pasa o tomar una foto si alguien viene a secuestrarlos.

Nada de eso es malo o bueno, resalta Whitby, pero tiene que haber un debate sobre cómo lo vamos a manejar, antes de que la situación nos maneje a nosotros.

"Lo que hay que recordar siempre es que las computadoras son máquinas y no humanos".

.