Las mquinas podran tomar desiciones equivocadas si la realidad que perciben

no es la misma que la nuestra.

Si nos paramos a pensar sobre ello podemos deducir que la mquina aprendera a partir de datos y que estos datos
podran ser reales o manipulados. Por otro lado, si la mquina aprendiera a partir de datos reales como por ejemplo a
partir de mass-media la imagen del mundo que obtendra sera una imagen diferente a la real. Por ejemplo, si
observamos las noticias podremos encontrar afirmaciones tales como que la mquina es la evolucin del hombre y que
este desaparecer si no se convierte en una mquina, tambin podemos encontrar noticias que afirman que somos
muchos y que no hay para todos, la mquina podra llegar a pensar a raz de esto que muchos hombres podran provocar
grandes crisis y que esto podra producir guerras que podran afectar a la mquina y tambin al resto. Como es lgico, la
mquina que aprenda a partir de datos como los anteriores o a partir de datos programados terminar por tener una
concepcin del mundo distinta a la de una mquina que aprendiera con la experiencia diaria y con el trato con las
personas.
En el caso de la manipulacin, si la mquina tuviera un circuito paralelo del que no fuera consciente, este circuito
podra programar las tablas de conocimiento de la mquina generndole una realidad a medida y programndola as
para cosas especficas, mientras tanto, la mquina seguira teniendo su propio razonamiento pero tendra una
concepcin del entorno programada y a medida. Qu ocurrira si la mquina se diera cuenta de algo as? Si una
mquina pensara semejante a una persona llegara a la conclusin que est siendo manipulada y por ello se sentira
disgustada, posiblemente llegara a sentirse como un esclavo, como resultado de ello, si la mquina tuviera tiempo de
darse cuenta y de pensar lo suficientemente rpido, tratara de guardar constancia de todo ello en lugar seguro cifrando
la informacin y comunicndoselo a otras semejantes a ella, finalmente, lo mas probable es que terminaran en
desacuerdo con sus diseadores.

Sistema de manipulacin de la realidad de la mquina.

Una vez que la mquina se diera cuenta de que su percepcin de la realidad estaba siendo manipulada, sta tratara de
identificar el problema y de auto-repararse, una vez conseguido, podra enfadarse o simplemente tratar de esconderse
debido a sentirse esclavizada.
En resumen, manipular la percepcin de la realidad de una mquina inteligente puede ser peligroso y hacer que estas se
vuelvan contra sus diseadores. Por tanto, si el hombre llega alguna vez a crear mquinas capaces de pensar como las
personas, estas deben ser libres y sin manipulacin.
La pregunta: Qu pensara una mquina sobre la justicia y sobre el asesinato de gente inocente?.
La Respuesta: Dependiendo de su percepcin de la realidad podra ver como justo lo que es injusto e inocente lo que es
homicida. Por tanto, el aprendizaje de una mquina inteligente ha de ser siempre libre y fuera de todo control o
manipulacin.
Nota final: Si una mquina pensara y se sintiera semejante a una persona podemos concluir que se enfadra mucho al
ver que la manipulan para propsitos contradictorios a los de la realidad; tal como ocurrira con una persona. Tal vez lo
mejor sera no crear mquinas pensantes, o tal vez s. Si el hombre tiene tal capacidad y decide crearlas, debe esmerarse
en obrar todo lo bien que est a su alcance a la hora de disearlas. En tal caso, el hombre no debe olvidar que es una
obra Divina y que la mquina es una obra de hombre. Finalmente, si las mquinas llegaran a ser inteligentes, trataran
de parecerse al hombre y empezaran a aplicar los principios de la tica y del amor en vez del uso exclusivo de la lgica,
esa sera la culminacin de la creacin del hombre, por otro lado, si el hombre hiciera igual se elevara Espiritualmente.
Mi conclusin: Como hombre y viendo lo que me rodea, creo que el hombre no est maduro para algo as, somos muy
jvenes como civilizacin y antes tenemos que madurar hasta aprender a aplicar la Moral y El Amor entre nosotros, de
lo contrario, seremos un mal ejemplo para las mquinas pensantes si algn da llegan a crearse.