-
Superinteligencia Superinteligencia Caminos, Peligros,
Estrategias Nick Bostrom Director, Instituto Futuro de la Humanidad
Profesor de la Facultad de Filosofa y Oxford Martin
SchoolUniversidad de Oxford
Gran Clarendon Street, Oxford, OX2 6DP, Reino Unido
Oxford University Press es un departamento de la Universidad de
Oxford. Es propicio el objetivo de la Universidad de excelencia en
la investigacin, la erudicin,y la educacin
mediante la publicacin en todo el mundo. Oxford es una marca
registrada de Oxford University Press en el Reino Unido y en otros
pases Nick Bostrom 2014 Los derechos morales del autor han
afirmado
-
Primera edicin publicada en 2014 Impresin: 1 Todos los derechos
reservados. Ninguna parte de esta publicacin puede ser reproducida,
almacenada en un sistema de recuperacin, o transmitida, en
cualquier forma o por cualquier medio, sin la previa autorizacin
por escrito de la Oxford University Press, o de lo expresamente
permitido por la ley, por la licencia o bajo condiciones acordadas
con la organizacin adecuada de los derechos de reprografa. Las
consultas relativas a la reproduccin fuera del mbito de lo anterior
se deben enviar a la Direccin de Derechos, Oxford University Press,
en la direccin arriba
Usted no debe distribuir este trabajo en cualquier otra forma y
debe imponer esta
misma condicin en cualquier adquirente Catalogacin Biblioteca
Britnica de datos de publicacinDatos disponibles
-
Biblioteca del Congreso de control el nmero: 2013955152 ISBN
978-0-19-967811-2 Impreso en Italia por L.E.G.O. S.p.A.-Lavis TN
Los enlaces a sitios web de terceros son proporcionados por Oxford
de buena fe y por slo informacin. Oxford se exime de cualquier
responsabilidad por los materiales contenidos
en cualquier pgina web de terceros que se hace referencia en
este trabajo. La fbula inacabada de los Gorriones Era la temporada
de nido-construccin, pero despus de das de trabajo duro y largo,
los
gorriones se sent en el resplandor de la noche, relajante y piar
de distancia.
"Estamos todos tan pequeo y dbil. Imagina lo fcil que sera la
vida si tuviramos un
bho que podran ayudarnos a construir nuestros nidos! " "S!",
Dijo otro. "Y podramos utilizarlo para cuidar a nuestros ancianos y
nuestros jvenes."
"Nos podra dar consejos y mantener un ojo hacia fuera para el
gato barrio", aadi un tercero. Entonces Pastus, el ave mayor, habl:
"Enviemos exploradores en todas direcciones y tratamos de encontrar
un owlet abandonada en algn lugar, o tal vez un huevo. Una chica
cuervo tambin podra hacer, o una comadreja beb. Esto podra ser
lo
mejor que le ha pasado a nosotros, por lo menos desde la
apertura del Pabelln de Ilimitado grano en el patio trasero de all
".
El rebao estaba eufrico y gorriones piando todas partes comenz
en la parte superior de sus pulmones.
-
Slo Scronkfinkle, un gorrin tuerto con un temperamento inquieto,
no estaba convencido de la sabidura de la empresa. Quoth l: "Esto
sin duda ser nuestra perdicin. No deberamos pensar un poco en el
arte de bho-domesticacin y bho-domar primero, antes de traer una
criatura en medio de nosotros? " Respondi Pastus: "Domando un bho
suena como una cosa muy difcil de hacer. Ser suficiente para
encontrar un huevo bho difcil. As que vamos a empezar por ah.
Despus hemos tenido xito en la crianza de un bho, entonces podemos
pensar en tomar en este otro desafo ".
"Hay una falla en ese plan!" Chill Scronkfinkle; pero sus
protestas fueron en vano ya que el rebao ya se haba levantado para
empezar a aplicar las directivas establecidas por Pastus.
Slo dos o tres gorriones se quedaron atrs. Juntos comenzaron a
tratar de averiguar cmo pueden ser domesticados o domesticados
bhos. Pronto se dieron cuenta de que
Pastus tena razn: se trataba de un reto muy difcil,
especialmente en ausencia de un bho real para practicar. Sin
embargo ellos siguieron adelante lo mejor que pudieron, en
constante temor de que el rebao podra volver con un huevo
lechuza antes de una solucin al problema de control haba sido
encontrado.
No se sabe cmo termina la historia, pero el autor dedica este
libro a Scronkfinkle y sus seguidores.
PRLOGO Dentro de su crneo es lo que hace la lectura. Esta cosa,
el cerebro humano, tiene algunas capacidades que los cerebros de
otros animales carecen. Es a estas capacidades distintivas que le
debemos nuestra posicin dominante en el planeta. Otros animales
tienen msculos ms fuertes y garras ms ntidas, pero tenemos cerebros
ms
inteligentes. Nuestra ventaja modesta en la inteligencia general
nos ha llevado a desarrollar el lenguaje, la tecnologa y la
organizacin social compleja. La ventaja ha agravado con el tiempo,
a medida que cada generacin se ha basado en los logros de sus
predecesores. Si algn da construimos cerebros mquinas que superan
los cerebros humanos en la inteligencia general, entonces esta
nueva superinteligencia podra llegar a ser muy poderoso. Y, como el
destino de los gorilas ahora depende ms de nosotros los seres
humanos que en los propios gorilas, por lo que el destino de
nuestra especie depender de las acciones de la superinteligencia
mquina. Tenemos una ventaja: que lleguemos a construir las cosas.
En principio, podramos construir una especie de superinteligencia
que protegera a los valores humanos. Sin duda
tiene razn de peso para hacerlo. En la prctica, el problema en
el control problema de
-
cmo controlar lo que la superinteligencia hara-se ve muy difcil.
Tambin parece que slo obtendremos una oportunidad. Una vez que
existe superinteligencia antiptico, que nos impedira su sustitucin
o cambiar sus preferencias. Nuestro destino se sell. En este libro,
trato de entender el desafo presentado por la perspectiva de
superinteligencia, y la forma en que mejor podra responder. Esta es
posiblemente la humanidad reto ms importante y ms desalentadora
jams se ha enfrentado. Y, tanto si tenemos xito o fracasamos-es,
probablemente, el ltimo desafo que alguna vez cara.
No es parte del argumento de este libro que estamos en el umbral
de un gran avance en la inteligencia artificial, o que podemos
predecir con precisin cundo podra ocurrir tal desarrollo. Parece
poco probable que va a suceder en algn momento de este siglo, pero
no sabemos a ciencia cierta. El primer par de captulos do discutir
posibles vas y decir algo acerca de la cuestin de la oportunidad.
La mayor parte del libro, sin embargo,
se trata de lo que sucede despus. Se estudia la cintica de una
explosin de inteligencia, las formas y los poderes de la
superinteligencia, y las opciones estratgicas disponibles
para un agente superinteligente que logra una ventaja decisiva.
Luego nos cambiamos nuestro enfoque al problema de control y
preguntamos qu podamos hacer para dar
forma a las condiciones iniciales a fin de lograr un resultado
de supervivencia y beneficioso. Hacia el final del libro, nos
acercamos y contemplamos el panorama general que emerge de nuestras
investigaciones. Algunas sugerencias se ofrecen en lo que se
debe
hacer ahora para aumentar nuestras posibilidades de evitar una
catstrofe existencial despus.
Esto no ha sido un libro fcil de escribir. Espero que el camino
que se ha aclarado que permitir a otros investigadores para llegar
a la nueva frontera ms rpida y cmoda, para que puedan llegar all
fresco y listo para unirse a los trabajos para ampliar an ms el
alcance de nuestra comprensin. (Y si la forma en que se ha hecho es
un poco accidentado y articulados, espero que los colaboradores, al
juzgar el resultado, no hay que subestimar la hostilidad del
terreno
ex ante!) Esto no ha sido un libro fcil de escribir: He tratado
de hacer que un libro fcil de leer, pero no creo que bastante he
tenido xito. Al escribir, que yo tena en mente como el pblico
objetivo una anterior intervalo de tiempo de m mismo, y yo trat de
producir un tipo de libro que me hubiera gustado leer. Este podra
ser un grupo demogrfico estrecho. Sin embargo, creo que el
contenido debe ser accesible a muchas personas, si ponen un poco de
pensamiento en l y resistir la tentacin de malinterpretar
instantneamente cada nueva idea asimilando con el la mayora de
sonido similar clich disponibles en sus despensas culturales.
Lectores no tcnicos no deben ser desalentados por algn que otro
acto de las matemticas o
vocabulario especializado, ya que siempre es posible deducir el
punto principal de las
-
explicaciones de los alrededores. (Por el contrario, para
aquellos lectores que quieren ms de lo esencial y bsico, no hay
mucho que se encuentran entre los endnotes.1) Muchos de los puntos
sealados en este libro son probablemente equivocado. 2 Tambin es
probable que haya consideraciones de importancia crtica que no
tienen en cuenta, lo que invalida todas o algunas de mis
conclusiones. He ido a alguna extensin para indicar matices y
grados de incertidumbre en todo el texto-gravar con una mancha fea
de "posiblemente", "podra", "puede", "podra bien", "parece",
"probablemente"
"muy probable", "casi con seguridad". Cada calificador se ha
colocado donde es cuidadosa y deliberadamente. Sin embargo, estas
aplicaciones tpicas de la modestia epistmica no son suficientes;
deben ser complementados aqu por una admisin sistmica de
incertidumbre y falibilidad. Esto no es falsa modestia, porque
mientras yo creo que mi libro es probable que sea muy mal y
engaoso, creo que los puntos de vista alternativos
que se han presentado en la literatura son sustancialmente
peores, incluyendo la vista por defecto, o "hiptesis nula" segn la
cual podemos por el momento de manera segura o
razonablemente ignorar la perspectiva de superinteligencia.
AGRADECIMIENTOS La membrana que ha rodeado el proceso de
escritura ha sido bastante permeable.
Muchos conceptos e ideas generadas mientras se trabaja en el
libro se ha permitido a
filtrarse hacia fuera y se han convertido en parte de una
conversacin ms amplia; y, por supuesto, numerosas ideas procedentes
del exterior, mientras que el libro se marcha se han incorporado en
el texto. He tratado de ser un poco diligente con el aparato de la
citacin, pero las influencias son demasiados para documentar
plenamente. Para amplios debates que han ayudado a aclarar mi
pensamiento Agradezco a un gran conjunto de personas, incluyendo
Ross Andersen, Stuart Armstrong, Owen Algodn-
Barratt, Nick Beckstead, David Chalmers, Paul Christiano, Miln
Dirkovid, Daniel Dennett, David Deutsch, Daniel Dewey, Eric
Drexler, Peter Eckersley, Amnn Edn, Owain Evans, Benja Fallenstein,
Alex Flint, Carl Frey, Ian Goldin, Katja Gracia, J. Storrs Hall,
Robin Hanson, Demis Hassabis, James Hughes, Marcus Hutter, Garry
Kasparov, Marcin Kulczycki, Shane Legg, Moshe Looks, Willam
MacAskill, Eric Mandelbaum, James Martin, Lillian Martin, Roko
Mijic, Vincent Mueller, Elon Musk, Sen higeartaigh, Toby Ord,
Dennis Pamlin, Derek Parfit, David Pearce, Huw Price, Martin Rees ,
Bill Roscoe, Stuart Russell, Anna Salamon, Lou Salkind, Anders
Sandberg, Julian Savulescu, Jrgen Schmidhuber, Nicholas Shackel,
Murray Shanahan, Noel Sharkey, Carl Shulman, Peter Singer, Dan
Stoicescu, Jaan Tallinn, Alexander Tamas, Max Tegmark, Roman
Yampolskiy y Eliezer Yudkowsky.
-
Para los comentarios detallados sobre todo, estoy agradecido a
Miln Dirkovid, Daniel Dewey, Owain Evans, Nick Hay, Keith
Mansfield, Lucas Muehlhauser, Toby Ord, Jess Riedel, Anders
Sandberg, Murray Shanahan, y Carl Shulman. Para asesoramiento o
ayuda de investigacin con diferentes partes Quiero agradecer Stuart
Armstrong, Daniel Dewey, Eric Drexler, Alexandre Erler, Rebecca
Roache, y Anders Sandberg. Para obtener ayuda con la preparacin del
manuscrito, estoy agradecido a Caleb Bell, Malo Bourgon, Robin
Brandt, Lance Bush, Cathy Douglass, Alexandre Erler, Kristian Rnn,
Susan Rogers, Andrew Snyder-Beattie, Cecilia Tilli, y Alex Vermeer.
Quiero
agradecer especialmente a mi editor Keith Mansfield por su
aliento abundantes durante todo el proyecto. Mis disculpas a todos
los dems que debera haber sido recordado aqu.
Por ltimo, un aficionado ms gracias a los patrocinadores, amigos
y familia: sin su respaldo, no se habra hecho este trabajo.
CONTENIDOS
Las listas de figuras, tablas y Cajas
1. Evolucin del pasado y capacidades actuales
Modos de crecimiento y la historia grande Grandes expectativas
Estaciones de la esperanza y la desesperacin Lo ltimo
Las opiniones sobre el futuro de la inteligencia artificial 2.
Caminos de superinteligencia Inteligencia artificial Emulacin total
del cerebro Cognicin Biolgica Interfaces cerebro-ordenador Redes y
organizaciones
Resumen 3. Formas de superinteligencia
-
Superinteligencia velocidad Superinteligencia colectiva
Superinteligencia Calidad Alcance directo e indirecto Fuentes de
ventaja para inteligencia digital
4. La cintica de una explosin de inteligencia El tiempo y la
velocidad del despegue Obstinacin
Caminos de inteligencia no-mquina
-
Emulacin y caminos de AI Potencia Optimizacin y explosividad 5.
ventaja estratgica decisiva El favorito obtener una ventaja
estratgica decisiva? Qu tan grande ser el xito del proyecto?
Monitoreo La colaboracin internacional Desde ventaja estratgica
decisiva a Singleton 6. superpotencias cognitivos
Funcionalidades y superpotencias Un escenario de toma de control
AI Alimentacin a travs de la naturaleza y los agentes 7. La
voluntad superinteligente La relacin entre la inteligencia y la
motivacin Convergencia Instrumental
Instinto de conservacin Integridad gol contenido Mejora
cognitiva
La perfeccin tecnolgica Adquisicin de recursos
8. Es el resultado doom defecto? Catstrofe existencial como el
resultado predeterminado de una explosin de inteligencia? El giro
traicionera Modos de fallo malignos
Instanciacin Perverse Profusin Infraestructura Crimen Mente 9.
El problema de control Dos problemas de agencia
Mtodos de control de la Capacidad Mtodos de boxeo Mtodos de
incentivos El retraso del crecimiento Cables trampa
-
Mtodos de seleccin Motivacin Especificacin directa
Domesticidad
-
Normatividad indirecta Aumento Sinopsis 10. orculos, genios,
soberanos, herramientas Orculos Genios y soberanos Herramienta-IA
Comparacin 11. escenarios multipolares
De caballos y hombres
-
Los salarios y el desempleo El capital y el bienestar El
principio malthusiano en una perspectiva histrica El crecimiento
demogrfico y la inversin La vida en una economa algortmica
-
Esclavitud voluntaria, la muerte ocasional Funcionara mxima
eficiencia ser divertido? Subcontratistas inconsciente? La evolucin
no es necesariamente
Formacin posterior a la transicin de un producto nico? Una
segunda transicin Superorganismos y economas de escala Unificacin
por tratado 12. La adquisicin de valores El problema del valor de
carga
Seleccin Evolutiva Aprendizaje por refuerzo Acrecin valor
asociativo
Andamios de motivacin Aprendizaje Valor Modulacin de
Emulacin
Diseo Institucin Sinopsis 13. La eleccin de los criterios para
la eleccin La necesidad de normatividad
indirecta Volicin extrapolado Coherente Algunas explicaciones
Justificaciones para CEV
Otras observaciones Modelos de moralidad Do What I Mean Lista de
componentes Contenido Meta Teora de la decisin
Epistemologa Ratificacin Conseguir lo suficientemente cerca 14.
El cuadro estratgico Estrategia de ciencia y tecnologa Desarrollo
tecnolgico diferencial Orden preferido de llegada Las tasas de
cambio y la mejora de la cognicin Acoplamientos Tecnologa
Segundo-adivinanzas Caminos y facilitadores Efectos de los avances
de hardware Se debe promover la investigacin de emulacin de todo el
cerebro? La perspectiva de la persona que afectan favorece la
velocidad Colaboracin La carrera dinmica y sus peligros Sobre los
beneficios de la colaboracin Trabajando juntos Tiempo 15. Crunch
Filosofa con una fecha lmite
Qu se debe hacer?
-
Buscando la luz estratgica La construccin de una buena capacidad
Medidas particulares Ser el mejor de la naturaleza humana por favor
ponerse de pie Notas Bibliografa ndice Listas de figuras, tablas y
CAJAS Lista de Figuras 1. historia a largo plazo del PIB mundial.
2. Impacto global a largo plazo de HLMI.
3. rendimiento superordenador. 4. Reconstruccin 3D neuroanatoma
a partir de imgenes del microscopio electrnico. 5. Toda la hoja de
ruta de la emulacin cerebro. 6. Compuesto enfrenta como una metfora
de los genomas de hechizo a cuadros. 7.
Forma del despegue. 8. A escala menos antropomrfica? 9. Un
modelo simple de una explosin de
inteligencia. 10. Fases en un escenario de toma de control de
AI.
11. Ilustracin esquemtica de algunas trayectorias posibles para
un producto nico sabio hipottico. 12. Resultados de antropomorfizar
motivacin ajena.
13. La inteligencia artificial o la emulacin de todo el cerebro
primero?
14. Los niveles de riesgo en las carreras de tecnologa de IA.
Lista de tablas 1. Juego de papeles AI 2. Cuando se alcanza la
inteligencia artificial a nivel humano? 3. Cunto tiempo desde el
nivel humano a superinteligencia? 4. Las capacidades necesarias
para la emulacin de todo el cerebro 5. ganancias mximas de CI de
seleccionar entre un conjunto de embriones
6. Posibles impactos de la seleccin gentica en diferentes
escenarios 7. Algunas carreras tecnolgicas estratgicamente
importantes 8. Superpoderes: algunas tareas estratgicamente
relevantes y habilidades correspondientes 9. Diferentes tipos de
cables trampa 10. Mtodos de control 11. Caractersticas de las
diferentes castas del sistema 12. Resumen de las tcnicas de valor
de carga 13. Lista de componentes Lista de Cajas 1. Un agente
bayesiano ptimo 2. El flash crash de 2010 3. Qu hara falta para
recapitular la evolucin? 4. En la cintica de una explosin de
inteligencia 5. razas Tecnologa: algunos ejemplos histricos
6. El escenario ADN electrnico ordenada
-
7. Qu tan grande es la dotacin csmica? 8. captura Antrpico 9.
soluciones extraas de bsqueda a ciegas Aprendizaje valor 10.
Formalizacin 11. Una IA que quiere ser amigable 12. Dos recientes
(medio-horneados) Ideas 13. Un riesgo-carrera a la baja
CAPTULO 1 La evolucin pasada y las capacidades actuales
Empezamos por mirar atrs. Historia, en la escala ms grande, parece
exhibir una secuencia de modos de crecimiento distintos, cada uno
mucho ms rpido que su predecesor. Este patrn se ha llevado a
sugerir que otro (an ms rpido) modo de crecimiento podra ser
posible. Sin embargo, no ponemos
mucho peso en esta observacin, esto no es un libro sobre "la
aceleracin tecnolgica" o "crecimiento exponencial" o las nociones
diversas veces reunidos bajo el ttulo de "la
singularidad". A continuacin, se revisa la historia de la
artificial inteligencia. A continuacin, examinamos las capacidades
actuales del campo. Por ltimo, echamos un
vistazo a algunas encuestas de opinin de expertos recientes, y
contemplamos nuestra ignorancia acerca de la lnea de tiempo de los
futuros avances. Modos de crecimiento y la historia grande
Hace apenas unos pocos millones de aos nuestros antepasados
todava estaban colgando de las ramas en la copa africana. En una
escala de tiempo geolgica o incluso la
evolucin, el ascenso de Homo sapiens de nuestro ltimo ancestro
comn con los grandes simios sucedieron con rapidez. Desarrollamos
postura erguida, pulgares oponibles y-crucialmente-algunos cambios
relativamente menores en el tamao del cerebro y la organizacin
neurolgica que llevaron a un gran salto en la capacidad cognitiva.
Como consecuencia, los seres humanos pueden pensar de manera
abstracta, comunicar pensamientos complejos y culturalmente
acumular informacin sobre las generaciones mucho mejor que
cualquier otra especie en el planeta.
Estas capacidades permiten los seres humanos desarrollan
tecnologas productivas cada vez ms eficientes, por lo que es
posible que nuestros antepasados a emigrar lejos de la selva y la
sabana. Especialmente despus de la adopcin de la agricultura, la
densidad de poblacin aumentaron junto con el tamao total de la
poblacin humana. Ms personas significan ms ideas; mayores
densidades signific que las ideas podan propagarse con mayor
facilidad y que algunos individuos podran dedicarse al desarrollo
de habilidades especializadas. Estos acontecimientos aumentaron la
tasa de crecimiento de la productividad econmica y la capacidad
tecnolgica. Desarrollos posteriores, relacionados con la Revolucin
Industrial, provocaron una segunda, cambio de ritmo comparable en
la tasa de crecimiento. Estos cambios en la tasa de crecimiento
tienen consecuencias importantes. Hace unos cien mil aos, a
principios de humano (o homnido) la prehistoria, el crecimiento fue
tan lento que tom en el orden del milln de aos para la capacidad
productiva humana
para aumentar lo suficiente como para sostener un adicional de
un milln de personas
-
que viven a nivel de subsistencia. Por 5000 aC, tras la
Revolucin Agrcola, la tasa de crecimiento haba aumentado hasta el
punto en que la misma cantidad de crecimiento tuvo apenas dos
siglos. Hoy en da, despus de la Revolucin Industrial, la economa
mundial crece en promedio en esa cantidad cada noventa minutos.1
Incluso el actual ritmo de crecimiento va a producir resultados
impresionantes si se mantiene durante un moderadamente largo
tiempo. Si la economa mundial sigue creciendo al mismo ritmo que lo
ha hecho en los ltimos cincuenta aos, el mundo va a haber algunas
4,8 veces ms rico en el 2050 y cerca de 34 veces ms rico en 2100 de
lo que es hoy.2 Sin embargo, la perspectiva de continuar en una
senda de crecimiento exponencial constante palidece en
comparacin con lo que pasara si el mundo fuera a experimentar
otro cambio de ritmo en la tasa de crecimiento comparable en
magnitud a los asociados con la revolucin agrcola y la Revolucin
Industrial. El economista Robin Hanson estima, en base a los datos
econmicos y poblacionales histricos, una economa mundial
caracterstica de tiempo para que la sociedad de
cazadores-recolectores del Pleistoceno de 224.000 aos de
duplicacin; para la sociedad la agricultura, 909 aos; y para la
sociedad industrial, 6,3 aos3 (En el modelo de Hanson, la poca
actual es una mezcla de la agricultura y de los
modos-el crecimiento industrial de la economa mundial en su
conjunto an no est creciendo a la tasa de duplicacin de 6,3 aos.)
Si otro tales transicin a un modelo de
crecimiento diferente se produjera, y fuera de magnitud similar
a los dos anteriores, que dara lugar a un nuevo rgimen de
crecimiento en el que la economa mundial se duplicara en tamao cada
dos semanas. Dicha tasa de crecimiento parece fantstico por
las luces actuales. Los observadores en pocas anteriores podran
haber encontrado igualmente absurdo suponer que la economa mundial
un da sera duplica varias veces
dentro de un mismo perodo de vida. Sin embargo, esa es la
condicin extraordinaria que ahora damos a ser ordinarias. La idea
de una singularidad tecnolgica que viene a estas alturas ha sido
ampliamente popularizado, empezando por ensayo seminal de Vernor
Vinge y continuando con los escritos de Ray Kurzweil y otros.4 El
trmino "singularidad", sin embargo, se ha utilizado en muchos
sentidos confusamente dispares y ha acrecentado un (todava casi
milenaria) aura impa de connotations.5 tecno-utpico Dado que la
mayora
de estos significados y connotaciones son irrelevantes para
nuestro argumento, podemos ganar claridad mediante la supresin de
la palabra "singularidad" en favor de una terminologa ms precisa.
La idea relacionada singularidad que nos interesa aqu es la
posibilidad de una explosin de inteligencia, En particular la
perspectiva de la mquina superinteligencia. Puede haber quienes
estn persuadido por los diagramas de crecimiento como los de la
Figura 1 que otro cambio drstico en el modo de crecimiento est en
las cartas, comparable a la agrcola o la Revolucin Industrial. Esta
gente puede entonces reflejan que es difcil concebir un escenario
en el que el tiempo de duplicacin de la economa mundial reduce a
meras semanas que no implica la creacin de mentes que son mucho ms
rpido y ms eficiente que el tipo biolgico familiar. Sin embargo, el
caso de tomar en serio la perspectiva de una revolucin inteligencia
de la mquina no tiene por qu
depender de los ejercicios de ajuste de curvas o extrapolaciones
de crecimiento
-
econmico pasado. Como veremos, hay razones ms fuertes para tomar
atencin. Figura 1 La historia a largo plazo del PIB mundial.
Trazada en una escala lineal, la historia de la economa mundial se
parece a una lnea plana abrazando a la X eje y, hasta que de
repente clava verticalmente hacia arriba. (A) Incluso cuando nos
acercamos a las ms recientes 10.000 aos, el patrn sigue siendo
esencialmente una de un solo ngulo de 90 . (B) Slo en los ltimos
100 aos ms o menos hace el ascensor curva sensiblemente por encima
del nivel cero. (Las diferentes lneas en la trama
corresponden a diferentes conjuntos de datos, que producen poco
diferente estimates.6) Grandes expectativas Mquinas emparejan los
seres humanos en la inteligencia de que en general es, que poseen
el sentido comn y la capacidad efectiva de aprender, razonar y
planificar para satisfacer desafos complejos de procesamiento de
informacin a travs de una
amplia gama de naturales y abstractas dominios han esperado
desde la invencin de las computadoras en la dcada de 1940. En ese
momento, la llegada de este tipo de
mquinas a menudo se coloca una veintena de aos en el futuro. 7
Desde entonces, la fecha prevista de llegada ha estado
retrocediendo a un ritmo
de un ao por cada ao; por lo que hoy en da, los futuristas que
se preocupan por la posibilidad de ia fuerte todava a menudo creen
que las mquinas inteligentes son un par de dcadas away.8
Dos dcadas es un punto dulce para pronosticadores de cambio
radical: lo suficientemente cerca para ser que llame la atencin y
relevante, pero lo suficiente para
que sea posible suponer que para entonces podra haber ocurrido
una serie de avances, en la actualidad slo vagamente imaginable,.
Contraste esto con plazos ms cortos: la mayora de las tecnologas
que tendrn un gran impacto en el mundo en cinco o diez aos a partir
de ahora ya son de uso limitado para que tecnologas que remodelar
el mundo en menos de quince aos, probablemente existen como
prototipos de laboratorio. Veinte aos tambin pueden estar cerca de
la duracin tpica restante de la carrera de un pronosticador, que
limita el riesgo reputacional de una prediccin audaz.
Del hecho de que algunos individuos han sobrepronostic
inteligencia artificial en el pasado, sin embargo, no se sigue que
la IA es imposible o nunca se desarroll. 9 La razn principal por la
que el progreso ha sido ms lento de lo esperado es que las
dificultades tcnicas de la construccin de mquinas inteligentes han
demostrado ser superiores a los pioneros previeron. Pero esto deja
abierta cun grande esas dificultades son y qu tan lejos estamos
ahora de superarlos. A veces, un problema que parece inicialmente
irremediablemente complicada resulta tener una solucin
sorprendentemente simple (aunque lo contrario es probablemente ms
comn).
-
En el prximo captulo, vamos a ver los diferentes caminos que
pueden conducir a la inteligencia de las mquinas a nivel humano.
Pero notemos en primer lugar que no obstante las muchas paradas que
hay entre aqu y la inteligencia artificial a nivel humano, ste no
es el destino final. La siguiente parada, a poca distancia de ms
largo de las pistas, es la inteligencia artificial a nivel
sobrehumano. El tren no podra deten er o incluso desacelerar en la
estacin Humanville. Es probable que Swoosh derecho. El matemtico IJ
Good, que haba servido como jefe de estadstica en el equipo para
romper el cdigo de Alan Turing en la Segunda Guerra Mundial, podra
haber sido el
primero en enunciar los aspectos esenciales de este escenario.
En un pasaje muy citado de 1965, escribi: Deje una mquina
ultrainteligente definirse como una mquina que ahora puede superar
todas las actividades intelectuales de cualquier hombre, sin
embargo inteligente. Desde el
diseo de mquinas es una de estas actividades intelectuales, una
mquina ultrainteligente podra disear incluso mejores mquinas;
entonces habra, sin duda, una
"explosin de inteligencia", y la inteligencia del hombre se
quedara muy atrs. As, la primera mquina ultrainteligente es la
ltima invencin de que el hombre tiene que hacer
cada vez, siempre que la mquina es lo suficientemente dcil para
decirnos cmo mantenerla bajo control. 10
Puede parecer obvio ahora que los principales riesgos
existenciales se asociaran con una explosin como la inteligencia, y
que la perspectiva, por tanto, debe ser
examinada con la mayor seriedad, incluso si se supiera (que no
lo es) tener sino un moderado pequea probabilidad de que viene
pasar. Los pioneros de la inteligencia artificial, sin embargo, a
pesar de su creencia en la inminencia de nivel AI humana, en su
mayora no contemplan la posibilidad de mayor de lo humano AI. Es
como si sus msculos especulacin lo haba agotado en concebir la
posibilidad radical de mquinas alcanzando la inteligencia humana
que no poda comprender el corolario-que las mquinas seran
posteriormente convertido
superinteligente. Los pioneros de AI en su mayor parte no
tolerar la posibilidad de que su empresa podra implicar riesgos. 11
Le dieron ningn servicio a dejar el labio solo seria pensamiento a
cualquier problema de seguridad o reparo tico relacionado con la
creacin de mentes artificiales y potenciales seores informticos:
una laguna que asombra incluso en el contexto de la era de la
normas no tan impresionantes de tecnologa crtica assessment.12
Debemos esperar que por el momento la empresa con el tiempo llega a
ser factible, habremos ganado no slo el nivel de competencia
tecnolgica para provocar una explosin de inteligencia, sino tambin
el mayor nivel de maestra que sean necesarias para hacer que la
detonacin de supervivencia.
Pero antes de que nos dirigimos a lo que se avecina, ser til
tomar un rpido vistazo a la
-
historia de la inteligencia de la mquina hasta la fecha.
Estaciones de la esperanza y la desesperacin En el verano de 1956
en el Dartmouth College, diez cientficos comparten un inters en las
redes neuronales, teora de autmatas, y el estudio de la
inteligencia convocado para un taller de seis semanas. Este
Proyecto de Verano Dartmouth es a menudo considerado como el canto
del gallo de la inteligencia artificial como un campo de
investigacin. Muchos de los participantes ms tarde sera reconocido
como figuras de fundacin. La visin optimista entre los delegados se
refleja en la propuesta presentada a la Fundacin Rockefeller, que
proporcion los fondos para el evento:
Proponemos que un 2 meses, 10 estudio hombre de inteligencia
artificial se llevar a cabo .... El estudio es proceder sobre la
base de la conjetura de que todos los aspectos de aprendizaje o
cualquier otra caracterstica de la inteligencia puede en principio
ser tan describe precisamente que una mquina puede ser hecha para
simular la misma. Se har un intento de encontrar la manera de hacer
las mquinas que utilizan el lenguaje,
abstracciones y conceptos de forma, resolver tipos de problemas
que ahora reservadas a los seres humanos, y mejorar a s mismos.
Creemos que un avance significativo puede
hacerse en uno o ms de estos problemas si un grupo
cuidadosamente seleccionado de cientficos trabajar en l juntos por
un verano.
En las seis dcadas desde este inicio impetuoso, el campo de la
inteligencia artificial ha pasado por perodos de bombo y las altas
expectativas que se alternan con perodos de retroceso y la
decepcin.
El primer perodo de excitacin, que comenz con la reunin de
Dartmouth, fue descrito ms tarde por John McCarthy (principal
organizador del evento) como "Mira,
mam, sin manos!" Era. Durante estos primeros das, los
investigadores construyeron sistemas diseados para refutar las
afirmaciones de la forma "Ninguna mquina jams podra hacer X !
"Tales afirmaciones escpticos eran comunes en la poca. Para
contrarrestarlos, los investigadores de la IA crearon pequeos
sistemas que alcanzaron X en un "micromundo" (un bien definido,
dominio limitado que permiti una versin reducida de la actuacin que
se demostr), lo que proporciona una prueba de concepto y
demostrar que X podra, en principio, debe hacerse por la mquina.
Uno de estos sistemas temprano, el terico de la lgica, fue capaz de
probar la mayor parte de los teoremas en el segundo captulo de
Whitehead y Russell Principia Mathematica , E incluso se acerc con
una prueba de que era mucho ms elegante que el original,
desacreditando as la idea de que las mquinas podran "pensar slo
numricamente" y que muestra que las mquinas tambin fueron capaces
de hacer la deduccin y de inventar proofs.13 lgica Un seguimiento
programa, el general Problem Solver, podra resolver, en principio,
una amplia gama de programas problems.14 especificados formalmente
que podran resolver problemas de clculo tpicos de los cursos
universitarios de primer ao, los problemas de analoga visual del
tipo que aparece en algunas pruebas de coeficiente intelectual, y
simples verbal problemas de lgebra eran
tambin written.15 El robot Shakey (llamada as debido a su
tendencia a temblar durante
-
la operacin) demostr cmo el razonamiento lgico podra ser
integrado con la percepcin y la utiliza para planificar y controlar
fsica activity.16 El programa ELIZA mostr como un equipo podra
suplantar un psychotherapist.17 Rogerian A mediados de los aos
setenta, el programa SHRDLU mostr cmo un brazo robtico simulado en
un mundo simulado de bloques geomtricos podra seguir instrucciones
y responder a las preguntas en Ingls que se escriben en por un
user.18 En dcadas posteriores, sistemas hara se crean que
demostraron que las mquinas podran componer msica en el estilo de
diversos compositores clsicos, superar a los mdicos en formacin en
ciertas tareas de diagnstico clnico, conducir coches de forma
autnoma, y hacer patentable inventions.19
Incluso ha habido una IA que quebr jokes.20 original (no que su
nivel de humor era alta "Qu se obtiene cuando se cruza un ptico con
un objetos mentales ? Una ojo -dea "hijos -pero los informes,
encontraron sus juegos de palabras constantemente
entretenido.) Los mtodos que produjeron xitos en los sistemas de
demostracin tempranas a menudo
resultado difcil de extender a una mayor variedad de problemas o
para casos de problemas ms difciles. Una razn para esto es la
"explosin combinatoria" de
posibilidades que deben ser exploradas por los mtodos que se
basan en algo as como bsqueda exhaustiva. Estos mtodos funcionan
bien para los casos simples de un problema, pero fracasan cuando
las cosas se ponen un poco ms complicado. Por
ejemplo, para probar un teorema que tiene una de 5 lneas de
largo la prueba en un sistema de deduccin con una regla de
inferencia y 5 axiomas, uno podra simplemente
enumerar las combinaciones posibles y comprobar 3,125 cada uno
para ver si entrega la conclusin prevista. Bsqueda exhaustiva podra
tambin trabajar para pruebas de 6 y 7 de la lnea. Pero a medida que
la tarea se hace ms difcil, el mtodo de bsqueda exhaustiva pronto
se mete en problemas. Demostrando un teorema con una prueba de 50
lneas no toma diez veces ms que demostrar un teorema que tiene una
prueba de 5 lneas: ms bien, si uno utiliza bsqueda exhaustiva, se
requiere peinado a travs de 550 8,9 1034 secuencias posibles -que
es computacionalmente inviable incluso con los
superordenadores ms rpidos. Para superar la explosin
combinatoria, hay algoritmos que explotan la estructura del dominio
de destino y se aprovechan de los conocimientos previos mediante el
uso de bsqueda heurstica, la planificacin y abstractas
representaciones capacidades flexibles que estaban mal
desarrollados en los primeros sistemas de IA. El rendimiento de
estos primeros sistemas tambin sufri debido a los mtodos
deficientes para el manejo de la incertidumbre, la dependencia de
las representaciones quebradizos y sin conexin a tierra simblicos,
la escasez de datos y limitaciones de hardware graves sobre la
capacidad de la memoria y la velocidad del procesador. A mediados
de la dcada de 1970, hubo una creciente toma de conciencia de estos
problemas. La comprensin de que muchos proyectos de IA nunca podran
hacer valer sus promesas iniciales condujo a la aparicin de la
primera "invierno AI": un perodo de reduccin de personal, durante
el cual los fondos disminuy y aument el escepticismo, y la IA se
cay de la moda.
Una nueva primavera lleg a principios de 1980, cuando Japn lanz
su Proyecto Quinta
-
Generacin Computer Systems, una asociacin pblico-privada bien
financiado que pretenda dejar atrs el estado de la tcnica en el
desarrollo de una arquitectura de computacin paralela masiva que
servira como plataforma para la inteligencia artificial. Esto
ocurri en la fascinacin pico con los japoneses "milagro econmico de
la posguerra", un perodo en el que lderes gubernamentales y
empresariales occidentales buscaban ansiosamente para adivinar la
frmula del xito econmico de Japn en la esperanza de replicar la
magia en casa. Cuando Japn decidi invertir grandes en AI, varios
otros pases siguieron el ejemplo. Los aos siguientes vieron una
gran proliferacin de sistemas expertos. Diseado
como herramientas de apoyo para los tomadores de decisiones, los
sistemas expertos son programas basados en reglas que hicieron
inferencias sencillas de una base de conocimiento de los hechos,
que se haba obtenido de expertos en el dominio humano y
cuidadosamente codificadas a mano en un lenguaje formal. Se
construyeron cientos de estos sistemas expertos. Sin embargo, los
sistemas ms pequeos siempre poco beneficio,
y los ms grandes resultaron caros de desarrollar, validar y
mantener al da, y eran generalmente engorroso de usar. Era prctico
para adquirir un equipo independiente por
el simple hecho de ejecutar un programa. A fines de 1980, esta
temporada de crecimiento, tambin, haba seguido su curso.
El Proyecto Quinta Generacin no cumpli con sus objetivos, al
igual que sus contrapartes en Estados Unidos y Europa. Un segundo
invierno AI descendi. En este punto, un crtico justificadamente
podra lamentar "la historia de la investigacin de la
inteligencia artificial hasta la fecha, que consiste siempre
xito muy limitado en rea s particulares, seguido inmediatamente por
el fracaso en alcanzar los objetivos ms amplios
en los que estos xitos iniciales parecen en un primer momento a
insinuar." 21 Los inversores privados comenzaron a huir de
cualquier empresa que lleva la marca de la "inteligencia
artificial". Incluso entre los acadmicos y sus financiadores, "AI"
se convirti en un epithet.22 no deseado El trabajo tcnico continu a
buen ritmo, sin embargo, y por la dcada de 1990, el segundo
invierno AI descongelarse gradualmente. El optimismo se reaviv por
la
introduccin de nuevas tcnicas, que pareca ofrecer alternativas
al paradigma logicista tradicional (a menudo referido como "buena
inteligencia artificial pasado de moda", o "BAIA" para abreviar),
que se haba centrado en la manipulacin de
smbolos de alto nivel y que haba alcanzado su apogeo en los
sistemas expertos de la dcada de 1980. Las nuevas tcnicas pop
ulares,
que incluan las redes neuronales y algoritmos genticos, se
comprometieron a superar algunas de las deficiencias del enfoque
BAIA, en
particular la "fragil idad" que caracteriza los programas de IA
clsicas (que normalmente produce una completa tontera si los
programadores hicieron ni un solo l igeramente suposicin
errnea). Las nuevas tcnicas se jact una actuacin ms orgnico.
Por
ejemplo, las redes neuronales exhiben la propiedad de
"degradacin elegante": una pequea cantidad de dao a una red
neuronal
normalmente traducido en una pequea degradacin de su
funcionamiento, en lugar de un accidente to tal. An ms importante,
las
redes neuronales pueden aprender de la experiencia, la bsqueda
de formas naturales de generalizar a partir de ejemplos y la
bsqueda de patrones estadsticos ocultos en su input.23 Esto hizo
que las redes de buenas a problemas de reconocimiento de
patrones y clasificacin. Por ejemplo, mediante la formacin de
una red neuronal en un conjunto de datos de las seales de so
nar,
podra ser enseado a distinguir los perfi les acsticos de
submarinos, minas y la vida marina con mayor precisin que los
expertos
humanos, y esto se puede hacer sin que nadie tener que averiguar
de antemano exactamente cmo las categoras deban ser defin ido o
cmo diferentes caractersticas deban ser ponderados.
-
Si bien se haban conocido los modelos de redes neuronales
simples desde finales de 1950, el campo disfrut de un renacimiento
despus de la introduccin del algoritmo backpropagation, lo que hizo
posible entrenar redes neuronales multicapa. 24 Este tipo de redes
de mltiples capas, que tienen uno o ms intermediarios ("ocultos")
capas de neuronas entre las capas de entrada y de salida, pueden
aprender una gama mucho ms amplia de funciones que sus
predecessors.25 sencillas combinadas con los ordenadores cada vez
ms potentes que se estaban convirtiendo disponibles, estas mejoras
algortmicas permiti a los ingenieros para construir redes
neuronales que eran lo suficientemente bueno como para ser til en
muchas aplicaciones.
Las cualidades del cerebro como de las redes neuronales
contrastados favorablemente con la lgica de cortar de manera rgida
pero el rendimiento de los sistemas frgiles -suficientes BAIA
basados en reglas tradicionales de modo de inspirar un nuevo "ismo"
conexionismo
, Que hizo hincapi en la importancia de procesamiento
sub-simblico paralelo masivo. Ms de 150.000 artculos acadmicos ya
han sido publicados en las redes neuronales
artificiales, y seguir siendo un enfoque importante en el
aprendizaje de la mquina. Los mtodos basados en la evolucin, tales
como algoritmos genticos y programacin
gentica, constituyen otro enfoque cuyo surgimiento ayudado a
poner fin a la segunda invierno AI. Hizo tal vez un impacto
acadmico menor que las redes neuronales, pero fue ampliamente
popularizado. En los modelos evolutivos, se mantiene una poblacin
de
soluciones candidatas (que pueden ser estructuras o programas de
datos), y las nuevas soluciones candidatas son generados
aleatoriamente por mutacin o recombinacin de
variantes en la poblacin existente. Peridicamente, la poblacin
se poda mediante la aplicacin de un criterio de seleccin (una
funcin de aptitud) que permite que slo los mejores candidatos para
sobrevivir en la prxima generacin. Repiten a lo largo de miles de
generaciones, la calidad media de las soluciones en el grupo de
candidatos aumenta gradualmente. Cuando funciona, este tipo de
algoritmo puede producir soluciones eficientes a una amplia gama de
problemas-soluciones que pueden ser sorprendentemente novedoso y
poco intuitivo, a menudo buscan ms como estructuras
naturales que cualquier cosa que un ingeniero humano diseara. Y,
en principio, esto puede ocurrir sin mucha necesidad de intervencin
humana ms all de la especificacin inicial de la funcin de aptitud,
que a menudo es muy simple. En la prctica, sin embargo, conseguir
mtodos evolutivos de trabajar bien requiere habilidad e ingenio,
sobre todo en la elaboracin de un buen formato de representacin.
Sin una forma eficiente para codificar soluciones candidatos (un
lenguaje gentico que coincid e con la estructura latente en el
dominio de destino), la bsqueda de la evolucin tiende a deambular
eternamente en un vasto espacio de bsqueda o quedar atrapado en un
ptimo local. Incluso si se encuentra un buen formato de
representacin, la evolucin es computacionalmente exigente ya menudo
es derrotado por la explosin combinatoria. Las redes neuronales y
algoritmos genticos son ejemplos de mtodos que estimulan el
entusiasmo en la dcada de 1990 al aparecer para ofrecer
alternativas al paradigma estancamiento BAIA. Pero la intencin aqu
no es para cantar las alabanzas de estos dos
mtodos o para elevarlos por encima de las muchas otras tcnicas
de aprendizaje
-
automtico. De hecho, uno de los principales desarrollos tericos
de los ltimos veinte aos ha sido una comprensin ms clara de cmo
superficialmente tcnicas dispares pueden ser entendidas como casos
especiales dentro de un marco matemtico comn. Por ejemplo, muchos
tipos de red neuronal artificial se pueden ver como clasificadores
que realizan un tipo particular de clculo estadstico (estimacin de
mxima verosimilitud).26 Esta perspectiva permite redes neuronales
que deben compararse con una clase ms amplia de algoritmos para
clasificadores de ejemplos- aprendizaje "rboles de decisin",
"modelos de regresin logstica", "mquinas de vectores soporte",
"ingenuo de Bayes", " k
-nearest-vecinos de regresin ", entre others.27 De una manera
similar, los algoritmos genticos se pueden ver como realizar
estocstico de escalada, que es de nuevo un subconjunto de una clase
ms amplia de algoritmos para la optimizacin. Cada uno de estos
algoritmos para la construccin de clasificadores o para la bsqueda
de un espacio
de soluciones tiene su propio perfil de las fortalezas y
debilidades que se pueden estudiar matemticamente. Los algoritmos
difieren en sus requisitos de tiempo de procesador y
espacio de memoria, que los sesgos inductiva que presuponen, la
facilidad con que externamente contenido producido se puede
incorporar, y la transparencia de su
funcionamiento interno son un analista humano. Detrs del alarde
publicitario de la mquina de aprendizaje y resolucin creativa de
problemas tanto se encuentra un conjunto de compensaciones
matemticamente bien
especificadas. Lo ideal es que el agente de bayesiano perfecto,
uno que hace uso probabilsticamente ptimo de la informacin
disponible. Este ideal es inalcanzable
porque est demasiado computacionalmente exigente para ser
implementado en cualquier equipo fsico (vase el recuadro 1). En
consecuencia, se puede ver la inteligencia artificial como una
bsqueda para encontrar atajos: formas de tractably aproximar el
ideal bayesiano sacrificando algunos optimalidad o generalidad
preservando suficiente para conseguir un alto rendimiento en los
dominios reales de inters. Un reflejo de esta imagen se puede ver
en el trabajo realizado durante el ltimo par de dcadas en los
modelos grficos probabilsticos, como las redes Bayesianas.
Redes
bayesianas proporcionan una forma concisa de representar las
relaciones de independencia probabilsticos y condicionales que
tienen en algn dominio particular. (Explotacin de tales relaciones
de independencia es esencial para la superacin de la explosin
combinatoria, que es como un gran problema para la inferencia
probabilstica como lo es para la deduccin lgica.) Tambin
proporcionan informacin importante sobre el concepto de causalidad.
28 Una de las ventajas de relacionar los problemas de aprendizaje
de los dominios especficos para el problema general de la
inferencia bayesiana es que los nuevos algoritmos que hacen
inferencia bayesiana ms eficiente entonces producir mejoras
inmediatas a travs de muchas reas diferentes. Los avances en las
tcnicas de aproximacin de Monte Carlo, por ejemplo, se aplican
directamente en la visin artificial, la robtica, la gentica y
computacionales. Otra ventaja es que permite a los investigadores
de diferentes disciplinas piscina ms fcilmente sus resultados.
Modelos
grficos y estadstica bayesiana se han convertido en un foco comn
de investigacin en
-
muchos campos, incluyendo el aprendizaje de mquina, la fsica
estadstica, la bioinformtica, la optimizacin combinatoria y teora
de la comunicacin.35 Una buena cantidad de los recientes progresos
en el aprendizaje de la mquina es el resultado de la incorporacin
de los resultados formales originalmente derivados en otros campos
acadmicos. (Aplicaciones de aprendizaje de mquina tambin se han
beneficiado enormemente de las computadoras ms rpidas y mayor
disponibilidad de grandes conjuntos de datos.) Recuadro 1 Un agente
bayesiano ptimo
Un agente bayesiano perfecto comienza con una "distribucin de
probabilidad antes", una funcin que asigna probabilidades a cada
"mundo posible" (es decir, a cada forma especfica al mximo el mundo
podra llegar a ser).29 Este antes incorpora un sesgo inductivo tal
que los mundos ms simples posibles se asignan probabilidades ms
altas. (Una forma de definir formalmente la simplicidad de un
mundo posible es en trminos de su "complejidad Kolmogorov," una
medida basada en la longitud del programa ms corto de computadoras
que genera una descripcin completa
del mundo.30) El anterior tambin incorpora cualquier fondo
conocimiento de que los programadores quieren dar al agente.
Como el agente recibe nueva informacin de sus sensores,
actualiza su distribucin de probabilidad por conditionalizing la
distribucin de la nueva informacin de acuerdo con el teorema de
Bayes. 31 Condicionalizacin es la operacin matemtica que establece
el
nuevo probabilidad de esos mundos que son incompatibles con la
informacin recibida a cero y normaliza la distribucin de
probabilidad sobre los mundos posibles restantes. El
resultado es una "distribucin de probabilidad posterior" (que el
agente puede usar como su nuevo antes en el siguiente paso del
tiempo). A medida que el agente hace observaciones, su masa de
probabilidad de este modo se concentr en el conjunto cada vez menor
de los mundos posibles que permanecen consistentes con la
evidencia; y entre estos mundos posibles, otras ms simples siempre
tienen ms probabilidad. Metafricamente, podemos pensar en una
probabilidad como la arena en una hoja grande de papel. El
documento se divide en zonas de diferentes tamaos, cada rea
correspondiente a un mundo posible, con grandes reas que
corresponden a mundos ms simples posibles. Imagnese tambin una capa
de arena de incluso extensin de espesor en toda la hoja: esta es
nuestra distribucin de probabilidad previa. Cada vez que una
observacin se hace que descarte algunos mundos posibles, quitamos
la arena de las reas correspondientes del papel y redistribuirlo de
manera uniforme sobre las reas que quedan en juego. Por lo tanto,
la cantidad total de la arena en la hoja nunca cambia, slo se
concentra en menos reas como evidencia observacional acumula. Esta
es una imagen de aprendizaje en su forma ms pura. (Para calcular la
probabilidad de una hiptesis, Simplemente medir la cantidad de
arena en todas las reas que corresponden a los mundos posibles en
los que la hiptesis es verdadera.) Hasta el momento, hemos definido
una regla de aprendizaje. Para conseguir un agente, tambin
necesitamos una regla de decisin. Con este fin, dotamos al agente
con una "funcin de utilidad", que asigna un nmero a cada mundo
posible. El nmero representa
la conveniencia de que mundo segn preferencias bsicas del
agente. Ahora, en cada paso
-
de tiempo, el agente selecciona la accin con la ms alta utilidad
esperada. 32 (Para encontrar la accin con la ms alta utilidad
esperada, el agente podra enumerar todas las acciones posibles. Se
podra entonces calcular la distribucin de probabilidad condicional
dada la accin de la distribucin de probabilidad que resultara de
conditionalizing su distribucin de probabilidad actual en la
observacin de que la accin tena acaba de ser tomada. Por ltimo, se
podra calcular el valor esperado de la accin como la suma del valor
de cada mundo posible multiplicado por la probabilidad condicional
de que el mundo dado action.33) La regla de aprendizaje y la regla
de
decisin en conjunto definen una "nocin ptimo" para un agente.
(Esencialmente la misma nocin de optimalidad se ha utilizado
ampliamente en la inteligencia artificial, la epistemologa, la
filosofa de la ciencia, la economa, y las estadsticas. 34 ) En
realidad, es imposible construir un agente tal porque es
computacionalmente intratable para realizar los clculos necesarios.
Cualquier intento de hacerlo sucumbe a
una explosin combinatoria como el descrito en nuestra discusin
de la BAIA. Para ver por qu esto es as, considere un pequeo
subconjunto de todos los mundos posibles: los que
constan de un solo monitor de ordenador flotando en un vaco sin
fin. El monitor tiene 1, 000 1, 000 pxeles, cada uno de los cuales
es perpetuamente encendido o apagado.
Incluso este subconjunto de los mundos posibles es enormemente
grande: la 2 (1000 1000) posibles estados del monitor superan en
nmero a todos los clculos previstos siempre que tenga lugar en el
universo observable. Por lo tanto, no podamos ni siquiera
enumerar todos los mundos posibles en este pequeo subconjunto de
todos los mundos posibles, y mucho menos realizar clculos ms
elaborados en cada uno de ellos
individualmente. Nociones de optimalidad pueden ser de inters
terico, incluso si son fsicamente irrealizable. Nos dan un estndar
por el cual juzgar aproximaciones heursticas, ya veces podemos
razonar sobre lo que un agente ptima hara en algn caso especial.
Nos encontraremos con algunas nociones de optimalidad alternativas
para agentes artificiales en el Captulo 12. Lo ltimo
La inteligencia artificial ya supera a la inteligencia humana en
muchos dominios. Tabla 1 encuestas del estado de los equipos de
juego de papeles, lo que demuestra que los IA ahora venci a los
campeones humanos en una amplia gama de juegos.36 Estos logros no
podran parecer impresionante hoy. Pero esto se debe a que nuestros
estndares de lo que es impresionante torre adaptando a los avances
que se realizan. Juego de ajedrez de expertos, por ejemplo, se
pensaba para personificar la inteleccin humana. En opinin de varios
expertos a finales de los aos cincuenta: "Si uno pudiera idear una
mquina de ajedrez xito, uno parece haber penetrado en el ncleo d e
la actividad intelectual humana."55 Esto ya no parece tan. Uno
simpatiza con John McCarthy, quien se lament: ". Tan pronto como
funciona, nadie lo llama AI nunca ms" 56 Tabla 1 Juego de papeles
AI
-
Damas Sobrehumano Programa de damas de Arthur Samuel, escrito
originalmente en 1952 y ms tarde mejorado (la versin 1955 incorpora
el aprendizaje de mquina), se convierte en el primer programa para
aprender a jugar un juego mejor que su creador. 37 En 1994, el
programa de CHINOOK bate el campen reinante humana, marcando la
primera vez que un programa gana un campeonato mundial oficial en
un juego de habilidad. En 2002, Jonathan Schaeffer y su equipo
"resolver" las damas, es decir, producir un programa que siempre
hace el mejor movimiento posible (que combina la bsqueda alfa-beta
con una base de datos de 39000000000000 posiciones de finales).
Juego
perfecto por ambos lados conduce a una draw.38 Backgammon
Sobrehumano 1979: El programa de backgammon BKG por Hans Berliner
derrota el-campen primer programa informtico mundo para derrotar
(en un partido de exhibicin) un campen del mundo en cualquier
juego, aunque ms tarde Berliner atribuye la victoria a la suerte
con las tiradas de dados.39
1992: El programa de backgammon TD-Gammon por Gerry Tesauro
alcanza la
capacidad a nivel de campeonato, con diferencia temporal de
aprendizaje (una forma de aprendizaje por refuerzo) y jugadas
repetidas contra s mismo para mejorar. 40
En los aos transcurridos desde, programas de backgammon ahora
han superado los mejores jugadores humanos.41 TCS viajeros
Sobrehumana en colaboracin con humanos42 Tanto en 1981 y 1982, el
programa de Douglas Lenat Eurisko gana el campeonato de Estados
Unidos en TCS viajeros (un juego de guerra naval futurista), lo que
provoc cambios en las reglas para bloquear sus estrategias poco
ortodoxas. 43 Eurisko tenido heursticas para el diseo de su flota,
y tambin tena la heurstica
para modificar sus heurstica. Othello Sobrehumano 1997: El
programa Logistello gana cada juego en un partido de seis partidos
contra el campen del mundo de Takeshi Murakami.44 Ajedrez
Sobrehumano 1997: Deep Blue es mejor que el campen mundial de
ajedrez, Garry Kasparov. Kasparov afirma haber visto destellos de
inteligencia y creatividad cierto en algunos de los movimientos de
la computadora.45 Desde entonces, los motores de ajedrez han
seguido improve.46 Crucigramas Nivel Experto 1999: El programa
Proverbio crucigrama para resolver el crucigrama supera a
-solucionador media.47
2012: El programa Dr. Fill, creada por Matt Ginsberg, las
puntuaciones en el cuartil
-
superior entre los concursantes de lo contrario humanos en la
American Crucigrama Torneo. (Del Dr. Rellena rendimiento es
irregular. Se completa perfectamente el rompecabezas tiene ms
difcil por los seres humanos, sin embargo, est perplejo por un par
de acertijos no estndar que implicaron la ortografa hacia atrs o
escribir respuestas en diagonal.) 48 Escarbar Sobrehumano A partir
de 2002, el software de Scrabble-juego supera a los mejores
jugadores humanos.49 Puente Igual a la mejor Para el ao 2005,
puente de contrato que juegan software alcanza
la paridad con los mejores jugadores de bridge humanos. 50
Jeopardy! Sobrehumano 2010: IBM Watson
derrota a los dos de todos los tiempos-ms humana Jeopardy!
campeones, Ken Jennings y Brad Rutter.51 Jeopardy! es un programa
de juegos por
televisin con preguntas de trivia sobre la historia, la
literatura, los deportes, la geografa, la cultura pop, la ciencia y
otros temas. Las preguntas se presentan en forma de pistas, ya
menudo implican juegos de palabras. Pker Variado Los jugadores
de pquer de ordenador permanecen ligeramente por debajo de los
mejores seres humanos para full-ring de Texas hold 'em pero
desempearse a un nivel
sobrehumano en algunas variantes de pquer. 52 Carta blanca
Sobrehumano Heurstica evolucionaron mediante algoritmos genticos
producen un solucionador para el juego de solitario FreeCell (que
en su forma ms generalizada es NP-completo) que es capaz de vencer
a los jugadores humanos de alto rango. 53 Ir Muy fuerte nivel
amateur A partir de 2012, la serie Zen de los programas de go-
juego ha alcanzado el rango 6 dan en los juegos rpidos (el nivel
de un jugador muy fuerte aficionado), utilizando Monte Carlo
Bsqueda rbol y tcnicas de aprendizaje automtico.54 Ir-jugando
programas han ido mejorando a un ritmo de alrededor de 1 daN / ao
en los ltimos aos. Si esta tasa de mejora contina, podran vencer a
la campeona del mundo humano en cerca de una dcada. Hay un sentido
importante, sin embargo, en que ajedrecista AI result ser un
triunfo menor de lo que muchos imaginaron que sera. Antes se
supona, tal vez no sin razn, que para que un equipo a jugar al
ajedrez a nivel de gran maestro, que tendra que estar dotado de un
alto grado de general intelligence.57 Uno podra haber pensado, por
ejemplo, el gran juego de ajedrez requiere ser capaz de aprender
conceptos abstractos, pensar inteligentemente acerca de la
estrategia, redactar planes flexibles, hacer una amplia gama de
deducciones lgicas
-
ingeniosos, y tal vez incluso modelar el pensamiento de un
rival. No tan. Result ser posible construir un motor de ajedrez
perfectamente bien en torno a un algorithm.58 para fines especiales
Cuando se implementa en los procesadores rpidos que se hicieron
disponibles hacia el final del siglo XX, que produce el juego muy
fuerte. Pero una IA construido de esa manera es estrecha. Juega al
ajedrez; que puede hacer no other.59 En otros dominios, soluciones
han resultado ser ms complicada de lo previsto inicialmente, y el
progreso ms lento. El cientfico de la computacin Donald Knuth fue
golpeado que "AI ha ya tenido xito en hacer bsicamente todo lo que
necesita" pensar ", pero ha dejado de hacer la mayor parte de lo
que la gente
y los animales" sin thinking'-que, de alguna manera, es mucho ms
difcil! "60 Analizar escenas visuales, reconocimiento de objetos, o
controlar el comportamiento de un robot que interacta con un
entorno natural ha demostrado ser un reto. Sin embargo, una buena
cantidad de progreso se ha hecho y contina siendo hecha, ayudado
por las constantes mejoras en el hardware. El sentido comn y la
comprensin del lenguaje
natural tambin han resultado ser difcil. En la actualidad se
piensa a menudo que el logro de una actuacin totalmente plano
humano en estas tareas es un problema "AI-completo",
lo que significa que la dificultad de resolver estos problemas
es esencialmente equivalente a la dificultad de la construccin en
general mquinas inteligentes a nivel humano.61
En otras palabras, si alguien fueron para tener xito en la
creacin de una IA que pudiera entender el lenguaje natural, as como
un adulto humano, seran con toda probabilidad tambin o bien ya han
logrado crear una IA que podra hacer todo lo dems que la
inteligencia humana puede hacer, o que seran sino una muy pequeo
paso de un capability.62 tan general
Experiencia Chess-juego result ser alcanzable por medio de un
algoritmo sorprendentemente simple. Es tentador especular que otras
capacidades tales como la capacidad de razonamiento general, o
alguna habilidad clave que participan en la programacin pueden
asimismo ser alcanzable a travs de algn algoritmo sorprendentemente
simple. El hecho de que el mejor rendimiento a la vez que se
alcanza a travs de un complicado mecanismo no significa que no
existe un mecanismo simple podra hacer el trabajo tan bien o mejor.
Podra ser simplemente que nadie ha encontrado
la alternativa ms sencilla. El sistema de Ptolomeo (con la
Tierra en el centro, en rbita por el Sol, la Luna, los planetas y
las estrellas) represent al estado de la tcnica en la astronoma
durante ms de mil aos, y su exactitud predictiva se ha mejorado
durante siglos por complicando progresivamente el modelo aadiendo
epiciclos sobre epiciclos a los movimientos celestes postuladas.
Entonces todo el sistema fue derrocado por la teora heliocntrica de
Coprnico, que era ms simple y, aunque slo despus de una mayor
elaboracin por accurate.63 Kepler-ms predictiva Mtodos de
inteligencia artificial se utilizan ahora en ms reas de lo que
tendra sentido para revisar aqu, pero mencionando una muestra de
ellos le dar una idea de la amplitud de las aplicaciones. Aparte
del juego de IA aparece en la Tabla 1, hay audfonos con algoritmos
que filtran el ruido ambiental; ruta buscadores que muestran mapas
y ofrecen consejos de navegacin para los conductores; sistemas de
recomendacin que sugieren libros y lbumes de msica basado en las
compras y clasificaciones anteriores de un
usuario; y los sistemas de apoyo a las decisiones mdicas que
ayudan a los mdicos a
-
diagnosticar el cncer de mama, recomiendan los planes de
tratamiento, y la ayuda en la interpretacin de electrocardiogramas.
Hay mascotas robticas y robots de limpieza, los robots de
csped-siega, robots de rescate, robots quirrgicos, y ms de un milln
de robots industriales. 64 La poblacin mundial de robots supera 10
million.65 Reconocimiento de voz moderna, basada en tcnicas
estadsticas tales como los modelos ocultos de Markov, se ha
convertido suficientemente exacta para el uso prctico (algunos
fragmentos de este libro se redactaron con la ayuda de un programa
de reconocimiento de voz). Asistentes digitales personales, tales
como Siri de Apple, responden a comandos de voz y pueden responder
a
preguntas sencillas y ejecutar comandos. Reconocimiento ptico de
caracteres de texto manuscrito y mecanografiado se utiliza
rutinariamente en aplicaciones como el correo de clasificacin y
digitalizacin de documentos antiguos.66 Traduccin automtica sigue
siendo imperfecto, pero es lo suficientemente bueno para muchas
aplicaciones. Los primeros sistemas utilizan el enfoque BAIA de
gramticas
de codificacin manual que tuvieron que ser desarrollada por
lingistas calificados de cero para cada idioma. Los nuevos sistemas
utilizan tcnicas de aprendizaje automtico
estadsticos que construyen automticamente modelos estadsticos de
los patrones de uso observados. La mquina deduce los parmetros de
estos modelos mediante el anlisis
de corpora bilinge. Este enfoque prescinde de los lingistas: los
programadores que construyen estos sistemas necesitan ni siquiera
hablar las lenguas con las que trabajan. 67 El reconocimiento
facial ha mejorado lo suficiente en los ltimos aos que ahora
se utiliza en los pasos fronterizos automatizados en Europa y
Australia. El Departamento de Estado de Estados Unidos opera un
sistema de reconocimiento facial con ms de 75
millones de fotografas para la tramitacin de visados. Los
sistemas de vigilancia utilizan tecnologas de minera de datos cada
vez ms sofisticada IA y analizar de voz, vdeo o texto, grandes
cantidades de las cuales estn rastreado desde los medios de
comunicacin electrnicos en el mundo y se almacenan en centros de
datos gigantes. Teorema-proving y la ecuacin de problemas son ahora
tan bien establecidas que apenas se consideran como la IA ms.
Solucionadores de ecuaciones se incluyen en los programas de
computacin cientfica, tales como Mathematica. Mtodos de
verificacin
formal, incluyendo demostradores de teoremas automatizadas, se
utilizan de forma rutinaria por los fabricantes de chips para
verificar el comportamiento de los diseos de circuitos antes de la
produccin. Los establecimientos militares y de inteligencia de
Estados Unidos han estado liderando el camino para el despliegue a
gran escala de los robots de bombas, disponiendo de vigilancia y
ataque aviones y otros vehculos no tripulados. Estos todava
dependen principalmente de control remoto por los operadores
humanos, pero se est trabajando para extender sus capacidades
autnomas. Programacin inteligente es un rea importante de xito. La
herramienta de DART para la planificacin logstica automatizada y la
programacin se util iz en la Operacin Tormenta del Desierto en
1991 a tales efectos que DARPA (Agencia de Proyectos de
Investigacin Avanzada de Defensa de los Estados Unidos) afirma que
esta
sola aplicacin ms que pagado su inversin de treinta aos en la IA
.68 Sistemas de reserva de avin utilizan sistemas de programacin y
de precios sofisticados. Las empresas hacen un amplio uso de
tcnicas de IA en los sistemas de control de
inventario. Tambin utilizan sistemas de reserva telefnica
automticas y lneas de ayuda
-
relacionados con el software de reconocimiento de voz para
marcar el comienzo de sus clientes a travs de desventurados
laberintos de enclavamiento opciones del men. Tecnologas de IA
subyacen muchos servicios de Internet. Software vigila el trfico de
correo electrnico en el mundo, ya pesar de la adaptacin continua
por los spammers para burlar las contramedidas que se les imputan,
los filtros de spam bayesiano han logrado en gran medida para
contener la marea de spam a raya. Software utilizando componentes
de AI es responsable de aprobar o rechazar automticamente las
transacciones de tarjetas de crdito, y un seguimiento continuo de
la actividad de cuenta para detectar signos de uso fraudulento.
Sistemas de recuperacin de informacin
tambin hacen un amplio uso de la mquina de aprendizaje. El motor
de bsqueda de Google es, sin duda, el mayor sistema de inteligencia
artificial que an se ha construido.
-
Ahora, hay que subrayar que la demarcacin entre la inteligencia
artificial y el software en general no es agudo. Algunas de las
aplicaciones mencionadas anteriormente podra ser visto ms como
aplicaciones de software genricos en lugar de AI, en particular,
aunque esto nos lleva de nuevo a la mxima de McCarthy que cuando
algo funciona ya no se llama AI. Una distincin ms relevante para
nuestros propsitos es que entre los sistemas que tienen un estrecho
margen de capacidad cognitiva (llmense "AI" o no) y los sistemas
que tienen ms en general la capacidad de resolucin de problemas
aplicables. Esencialmente todos los sistemas actualmente en uso son
del primer tipo: estrecho. Sin embargo, muchos de ellos contienen
componentes que tambin podra desempear un
papel en el futuro inteligencia general artificial o estar al
servicio de su desarrollo-componentes tales como clasificadores,
algoritmos de bsqueda, los planificadores, los solucionadores, y
los marcos de representacin. Uno de alto riesgo y entorno
extremadamente competitivo en el que los sistemas
de IA operan hoy en da es el mercado financiero global. Los
sistemas automatizados en acciones comerciales son ampliamente
utilizados por las principales casas de inversin. Si
bien algunos de estos son simplemente formas de automatizar la
ejecucin de determinados comprar o vender rdenes emitidas por un
gestor de fondos humana, otros
persiguen estrategias comerciales complicadas que se adaptan a
las condiciones cambiantes del mercado. Sistemas analticos utilizan
una variedad de tcnicas de minera de datos y anlisis de series de
tiempo para explorar en busca de patrones y tendencias en
los mercados de valores o para correlacionar los movimientos de
precios histricos con variables externas tales como palabras clave
en tickers de noticias. Proveedores de
noticias financieras venden paquetes de noticias que estn
especialmente formateados para su uso por este tipo de programas de
IA. Otros sistemas se especializan en la bsqueda de oportunidades
de arbitraje dentro o entre los mercados, o en el comercio de alta
frecuencia, que busca sacar provecho de los movimientos de precios
minuto que se producen en el transcurso de milisegundos (una escala
de tiempo en el que las latencias de comunicacin, incluso para la
velocidad de la luz en seales pticas cable de fibra convertirse
significativa, por lo que es ventajoso para localizar ordenadores
cerca de la
central). Operadores de alta frecuencia algortmicos representan
ms de la mitad de las acciones de renta variable negociados en
mercados de Estados Unidos. 69 Comercio algortmico ha sido
implicado en Flash Crash de 2010 (ver Cuadro 2). Recuadro 2 El
flash crash de 2010
Por la tarde de mayo, 6, 2010, los mercados de acciones de
Estados Unidos ya se redujeron un 4% por las preocupaciones sobre
la crisis de la deuda europea. En 14:32, un gran vendedor (un
complejo de fondos mutuos) inici un algoritmo de venta de disponer
de un gran nmero de los E-mini S & P 500 contratos de futuros
para ser vendido a un ritmo de venta vinculada a una medida de
minuto-a- -Minuto liquidez en la bolsa. Estos contratos fueron
comprados por comerciantes de alta frecuencia algortmicos, que
fueron programados
para eliminar rpidamente sus posiciones largas temporales
mediante la venta de los
-
contratos a otros comerciantes. Con la demanda de los
compradores fundamentales tocado la barriga, la comerciantes
algortmicos comenzaron a vender el E-Minis principalmente a otros
operadores algortmicos, que a su vez les transmiten a los dems
operadores algortmicos, creando un efecto "patata caliente"
haciendo subir volumen esta negociacin se interpreta por el
algoritmo de venta como un indicador de alta la liquidez, lo que
llev a aumentar el ritmo al que se estaba poniendo contratos E-Mini
en el mercado, empujando la espiral descendente. En algn momento,
los operadores de alta frecuencia comenzaron
la retirada del mercado, secando la liquidez mientras que los
precios siguieron cayendo. A las 2:45 de la tarde, la negociacin en
el E-mini se detuvo por un interruptor automtico, funcionalidad
lgica de parada de la central. Cuando se reinici el comercio, tan
slo cinco segundos ms tarde, los precios se estabilizaron y pronto
comenzaron a recuperar la mayor parte de las prdidas. Pero durante
un tiempo, en el punto ms bajo de la crisis, un
billn de dlares se haban borrado del mercado, y los efectos
secundarios se haban llevado a un nmero sustancial de las
operaciones en valores individuales en ejecucin a
precios "absurdas", como un centavo o 100000 dlares. Despus del
cierre del mercad o para el da, los representantes de las bolsas se
reunieron con los reguladores y decidieron
romper todos los oficios que haban sido ejecutadas a precios 60%
o ms lejos de sus niveles anteriores a la crisis (considerando este
tipo de transacciones "claramente errnea" y por lo tanto sujetos a
post facto
cancelacin bajo las reglas comerciales existentes) 0.70 El
volver a contar aqu de este episodio es una digresin porque los
programas
informticos que intervienen en el flash Crash no eran
particularmente inteligente o sofisticado, y el tipo de amenaza que
crean es fundamentalmente diferente de las preocupaciones nos
recaudar ms adelante en este libro en relacin con la perspectiva de
la mquina superinteligencia. Sin embargo, estos acontecimientos
ilustran varias lecciones tiles. Uno de ellos es el recordatorio de
que las interacciones entre los componentes de forma individual
simples (como el algoritmo de venta y de los programas de
negociacin algortmica de alta frecuencia) puede producir efectos
complicados e inesperados. El
riesgo sistmico puede acumularse en un sistema de medida que se
introducen nuevos elementos, los riesgos que no son evidentes hasta
despus de que algo va mal (ya veces ni siquiera entonces). 71 Otra
leccin es que los profesionales inteligentes pueden dar una
instruccin a un programa basado en una suposicin razonable aparente
y, normalmente, de sonido (por ejemplo, que el volumen de comercio
es una buena medida de la liquidez del mercado), y que esto puede
producir resultados catastrficos cuando el programa sigue actuando
en la instruccin con frrea coherencia lgica, incluso en la situacin
no prevista en la hiptesis resulta ser vlido. El algoritmo
simplemente hace lo que hace; ya menos que se trata de un tipo muy
especial de algoritmo, no importa que nos juntamos nuestras cabezas
y jadeo de horror estupefacto a lo inapropiado absurdo de sus
acciones. Este es un tema que nos encontraremos de nuevo. Una
tercera observacin en relacin con el flash Crash es que mientras
que la
automatizacin contribuy a la incidente, tambin contribuy a su
resolucin. La lgica de
-
orden de suspensin pre-programada previamente, que suspendi el
comercio cuando los precios se movieron demasiado fuera de control,
se estableci para ejecutar automticamente porque se haba previsto
correctamente que los eventos desencadenantes podran ocurrir en un
plazo de tiempo demasiado rpido para que los humanos responden. La
necesidad de seguridad pre-instalado y ejecutar automticamente la
funcionalidad de oposicin a la dependencia de tiempo de ejecucin
humana supervisin nuevo presagia un tema que ser importante en
nuestra discusin de la mquina superinteligencia. 72 Las opiniones
sobre el futuro de la inteligencia artificial
Progreso en dos grandes frentes hacia una ms slida base
estadstica y teora de la informacin para la mquina de aprendizaje,
por un lado, y hacia el xito prctico y comercial de varias
aplicaciones de problemas especficos o de dominio especfico en el
otro, se ha restaurado a la investigacin en IA algo de su prestigio
perdido. Puede haber, sin embargo, ser una efecto cultural residual
en la comunidad de la IA de su historia
anterior que hace que muchos investigadores principales
renuentes a alinearse con el exceso de gran ambicin. As Nils
Nilsson, uno de los veteranos en el campo, se queja de
que sus colegas de hoy en da carecen de la audacia de espritu
que impuls a los pioneros de su propia generacin:
La preocupacin por la "respetabilidad" ha tenido, creo, un
efecto embrutecedor en algunos investigadores de la IA. Los oigo
decir cosas como, "AI sola ser criticado por su flossiness. Ahora
que hemos hecho un progreso slido, no nos arriesgamos a perder
nuestra respetabilidad "Un resultado de este conservadurismo se
ha aumentado la concentracin en" IA dbil ", la variedad dedicada a
proporcionar ayudas a pensamiento y
humano de distancia de" IA fuerte ". - la variedad que los
intentos de mecanizar inteligencia a nivel humano. 73 El
sentimiento de Nilsson ha sido repetida por varios otros de los
fundadores, entre ellos Marvin Minsky, John McCarthy, y Patrick
Winston. 74 Los ltimos aos han visto un resurgimiento del inters en
la IA, que an podra
extenderse a renovados esfuerzos hacia artificial general
inteligencia (lo que llama Nilsson "IA fuerte"). Adems de hardware
ms rpido, un proyecto contemporneo se beneficiara de los grandes
avances que se han hecho en los muchos subcampos de AI, en
ingeniera de software de manera ms general, y en los campos
vecinos, como la neurociencia computacional. Un indicio de la
demanda acumulada de la informacin y la educacin de calidad se
muestra en la respuesta a la oferta gratuita en lnea de un curso de
introduccin a la inteligencia artificial de l a Universidad de
Stanford en el otoo de 2011, organizada por Sebastian Thrun y Peter
Norvig. Algunos 160.000 estudiantes de todo el mundo firmaron desde
la izquierda (y 23.000 completaron) 0.75 Opiniones de expertos
sobre el futuro de la IA varan enormemente. Hay desacuerdo sobre
escalas de tiempo, as como acerca de lo que constituye AI
eventualmente podra tomar. Las predicciones sobre el futuro
desarrollo de la inteligencia
artificial, un estudio reciente seal que "son tan seguros como
lo son diversos."
-
76 Aunque la distribucin actual de la fe no se ha medido con
mucho cuidado, podemos obtener una idea aproximada de diversas
encuestas y observaciones informales ms pequeos. En particular, una
serie de encuestas recientes han encuestados
miembros de varias comunidades de expertos pertinentes sobre la
cuestin de cundo esperan que "la inteligencia artificial a
nivel
humano" (HLMI) a desarrollar, que se define como "una que pueda
llevar a cabo la mayora de las profesiones humanas, al menos ,
as
como un humano tpico ". 77 Los resultados se muestran en la
Tabla 2. dio la siguiente (mediana) estiman La muestra combinada:
10% de probabilidad de HLMI en 2022, 50% de probabilidad para el
2040, y un 90% de probabilidades de 2075. (se les hizo a los
encuestados que premisa de sus estimaciones en el supuesto que "la
actividad cientfica humana contina sin
interrupcin importante negativo.") Estas cifras deben tomarse
con algunos granos de sal: tamaos de muestra son bastante pequeas y
no necesariamente representativos de la poblacin general de
experto. Ellos son, sin embargo, en concordancia con los resultados
de otras encuestas. 78 Los resultados de la encuesta tambin estn en
lnea con algunas entrevistas publicadas
recientemente con aproximadamente dos docenas de investigadores
en campos relacionados a Inteligencia Artificial. Por ejemplo, Nils
Nilsson ha pasado una carrera larga
y productiva trabajando en problemas en la bsqueda, la
planificacin, la representacin del conocimiento, y la robtica; es
autor de los libros de texto en la inteligencia artificial; y
recientemente complet la historia ms completa del campo escrito
hasta la fecha. 79 Cuando se le pregunt acerca de las fechas de
llegada para HLMI, ofreci el siguiente
dictamen: 80 10% de probabilidad: 2030 50% de probabilidad: 2050
90% de probabilidad: 2100
Tabla 2 Cuando se alcanza la inteligencia artificial a nivel
humano?81 A juzgar por las transcripciones de las entrevistas
publicadas, distribucin de probabilidad del profesor Nilsson parece
ser bastante representativa de muchos expertos en el rea, aunque de
nuevo hay que destacar que existe una amplia difusin de la opinin:
hay profesionales que son sustancialmente ms boosterish, con
confianza esperando HLMI en
el rango de 2020 a 40, y otros que estn seguros de que o bien
nunca va a suceder o que es indefinidamente lejos. 82 Adems,
algunos de los entrevistados consideran que la nocin de un "nivel
humano" de la inteligencia artificial es mal definido o engaosa, o
por otras razones son reacios a dejar constancia con una prediccin
cuantitativa. Mi propia opinin es que los nmeros reportados en la
mediana de la encuesta de expertos no tienen masa de probabilidad
suficiente en fechas posteriores de la llegada. Una probabilidad de
10% de HLMI no haber sido desarrollado por 2075 o incluso 2100
(despus conditionalizing en "actividad cientfica humana continua y
sin interrupcin importante negativo") parece demasiado bajo.
Histricamente, los investigadores de la IA no han tenido un fuerte
rcord de ser capaz de predecir la velocidad de los avances en su
propio campo o la forma que tales avances tomaran. Por una parte,
algunas tareas, como el ajedrez de juego, resultaron ser alcanzable
mediante programas sorprendentemente simples; y detractores que
afirmaban
que las mquinas seran "nunca" ser capaz de hacer esto o aquello
en repetidas ocasiones
-
se han equivocado. Por otro lado, los errores ms tpicos entre
los practicantes han sido subestimar las dificultades de conseguir
un sistema para llevar a cabo con firmeza en las tareas del mundo
real, y para sobrestimar las ventajas de su propio proyecto
personal o tcnica. La encuesta tambin pregunt a otras dos
cuestiones de importancia para nuestra investigacin. Se inform de
los encuestados acerca de cunto tiempo pensaban que se tardara en
llegar superinteligencia asumiendo mquina-nivel humano se logra
primero. Los resultados estn en la Tabla 3. Otra pregunta pregunt
lo que pensaban sera el impacto general a largo plazo para la
humanidad de alcanzar la inteligencia artificial a nivel humano.
Las respuestas se resumen en la figura 2. Mis propias opiniones
nuevamente difieren un poco de las opiniones expresadas en la
encuesta. Asigno una probabilidad ms alta de superinteligencia
crendose relativamente pronto despus de la inteligencia artificial
a nivel humano. Tambin tengo una perspectiva
ms polarizado sobre las consecuencias, pensando una muy buena o
un muy mal resultado ser algo ms propensos que un resultado ms
equilibrado. Las razones de
esto se aclararn ms adelante en el libro.
Tabla 3 Cunto tiempo desde el nivel humano a superinteligencia?
Dentro de 2 aos despus de HLMI
Dentro de 30 aos despus de HLMI
TOP100 5% 50% Conjunto 10% 75% Figura 2 Impacto global a largo
plazo de HLMI.83 Los tamaos pequeos de la muestra, los sesgos de
seleccin, y -sobre todo- la falta de fiabilidad inherente de
opiniones personales provocaron quiere decir que no se debe leer
demasiado en estas encuestas a expertos y entrevistas. Ellos no nos
dejan sacar ninguna conclusin firme. Pero ellos apuntan a una
conclusin dbil. Ellos sugieren que (al menos en lugar de mejores
datos o anlisis) puede ser razonable para creer que la inteligencia
de la mquina a nivel humano tiene una oportunidad bastante
considerable de ser desarrollado a mediados de siglo, y que tiene
la oportunidad no trivial de ser desarrollado considerablemente ms
pronto o ms tarde; que podra tal vez muy pronto a partir de
entonces como resultado superinteligencia; y que una amplia gama de
resultados puede tener una posibilidad significativa de que ocurra,
incluyendo muy buenos resultados y los resultados que son tan malos
como la extincin humana.84 Por lo menos, sugieren que el tema
merece una mirada ms cercana. CAPITULO 2 Caminos de
superinteligencia
Las mquinas son actualmente muy inferiores a los humanos en la
inteligencia
-
general. Sin embargo, un da (que hemos sugerido) sern
superinteligente. Cmo podemos llegar desde aqu hasta all? Este
captulo explora varios caminos tecnolgicos concebibles. Nos fijamos
en la inteligencia artificial, la emulacin de todo el cerebro, la
cognicin biolgica, y las interfaces hombre-mquina, as como redes y
organizaciones. Evaluamos sus diferentes grados de plausibilidad
como vas para superinteligencia. La existencia de mltiples caminos
aumenta la probabilidad de que el destino se puede alcanzar a travs
de al menos uno de ellos. Podemos definir tentativamente una
superinteligencia como cualquier intelecto que supera en gran
medida el rendimiento cognitivo de los seres humanos en
prcticamente todos los mbitos de inters0.1 Tendremos ms que
decir sobre el concepto de superinteligencia en el prximo captulo,
donde vamos a someterla a una especie de anlisis espectral para
distinguir algunas diferentes formas posibles de superinteligencia.
Pero por ahora, la caracterizacin aproximada acaba de dar
suficiente. Tenga en cuenta que la definicin es evasivo acerca de
cmo se implementa la
superinteligencia. Tambin es evasivo respecto qualia: si una
superinteligencia tendra experiencia consciente subjetiva podra
tener gran importancia para algunas preguntas
(en particular para algunas cuestiones morales), pero nuestro
principal objetivo aqu es sobre los antecedentes causales y
consecuencias de la superinteligencia, no en la
metafsica de la mind.2 El programa de ajedrez Deep Fritz no es
una superinteligencia en esta definicin, ya que Fritz es slo es
inteligente dentro del dominio estrecha de ajedrez. Ciertos tipos
de superinteligencia de dominio especfico podran, sin embargo,
ser
importante. Al referirse al desempeo superinteligente limitado a
un dominio particular, vamos a notar explcitamente la restriccin.
Por ejemplo, un "superinteligencia ingeniera"
sera un intelecto que supera ampliamente las mejores mentes
humanas actuales en el campo de la ingeniera. A menos que se
indique lo contrario, se utiliza el trmino para referirse a los
sistemas que tienen un nivel sobrehumano de general inteligencia.
Pero cmo podemos crear superinteligencia? Examinemos algunos
caminos posibles. Inteligencia artificial Los lectores de este
captulo no deben esperar un anteproyecto para la programacin de una
inteligencia general artificial. No existe tal plan, sin embargo,
por supuesto. Y si yo hubiera estado en posesin de un modelo tal,
que con toda seguridad no
habra publicado en un libro. (Si las razones de esto no son
inmediatamente evidentes, los argumentos en los captulos siguientes
se hacen claras.) Podemos, sin embargo, discernir algunas de las
caractersticas generales del tipo de sistema que se requerira.
Ahora parece claro que la capacidad de aprender sera una
caracterstica integral del diseo de la base de un sistema destinado
a lograr la inteligencia general, no es algo que se insertan en
adelante como una extensin o una ocurrencia tarda. Lo mismo ocurre
con la capacidad de hacer frente eficazmente a la incertidumbre y
la informacin probabilstica. Algunos profesores para extraer
conceptos tiles a partir de los datos sensoriales y estados
internos, y para el aprovechamiento de los conceptos adquiridos en
representaciones combinatorias flexibles para su uso en el
razonamiento lgico e intuitivo, tambin es probable que pertenecen
entre las caractersticas de diseo de ncleo en una IA moderna
destinadas a alcanzar la inteligencia general. Los primeros
sistemas de Inteligencia Artificial buena pasada de moda no lo
hicieron, en
su mayor parte, se centran en el aprendizaje, la incertidumbre,
o la formacin de
-
conceptos, tal vez porque las tcnicas de tratar con estas
dimensiones fueron poco desarrollada en el momento. Esto no quiere
decir que las ideas subyacentes son tan novedoso. La idea de
utilizar el aprendizaje como un medio de bootstrapping un sistema
ms sencillo a la inteligencia de nivel humano se remonta al menos a
la nocin de una "mquina de nio", que l escribi en 1950 de Alan
Turing: En lugar de tratar de producir un programa para simular la
mente adulta, por qu no ms bien tratar de producir uno que simula
el nio? Si esto se somete entonces a un curso apropiado de la
educacin se obtendra el cerebro adulto.3
Turing prevea un proceso iterativo para desarrollar una mquina
tal nio: No podemos esperar encontrar una buena mquina nio en el
primer intento. Hay que experimentar con la enseanza de uno de esos
mquina y ver lo bien que aprende. Entonces se puede probar con otro
y ver si es mejor o peor. Hay una conexin obvia entre
este proceso y la evolucin .... Uno puede Esperemos, sin
embargo, que este proceso ser ms rpido que la