Inteligencia artificial, redes neuronales, machine learning

Foro dedicado a otros temas sobre defensa sin cabida en el resto de foros

Moderadores: Lepanto, poliorcetes, Edu, Orel

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor poliorcetes el Jue Feb 10, 2022 12:14 am

Gus escribió:Buenas

Una cosa es que se usen y desarrollen IAs para tareas determinadas, como por ejemplo para tratar los datos de radar o sonar e incluso con sistemas totalmente integrados como pasa con el aegis. Y otra es desarrollar IAs que puedan tomar decisiones de mas trascendencia y les dejemos tomar decisiones que debemos tomar nosotros.

Un saludo


Es más sencillo todavía. Una "IA" es un modelo entrenado de la forma que fuera para resolver, como dices, problemas realmente restringidos. El tope ahora mismo es hacer un pipeline entre dos problemas, que medio empieza a funcionar, como dar una descripción en lenguaje natural y que con ella se genere una imagen.

Siendo las capacidades de las "IA" dedicadas la ostia, estamos lejísimos de la toma de decisiones. Algo he publicado al respecto en ejércitos

https://www.revistaejercitos.com/2021/1 ... ine-teams/
Nunca digas que éste es mi último sendero
**
podcast de portierramaryaire
https://www.ivoox.com/podcast-portierra ... 223_1.html

y recuerda nuestro patreon para actualizar el foro y crecer
https://www.patreon.com/portierramaryaire
Avatar de Usuario
poliorcetes
Site Admin
 
Mensajes: 13139
Registrado: Vie Abr 17, 2009 11:54 am

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Truquichan el Jue Feb 10, 2022 8:47 am

poliorcetes escribió:...

Es más sencillo todavía. Una "IA" es un modelo entrenado de la forma que fuera para resolver, como dices, problemas realmente restringidos. El tope ahora mismo es hacer un pipeline entre dos problemas, que medio empieza a funcionar, como dar una descripción en lenguaje natural y que con ella se genere una imagen.
...



Correcto, el problema es la "inversión" de la red: que a partir de la decisión del modelo/concepto me devuelva un comportamiento "in the real world" que me valga y se ajuste. Y como bien dices, más allá combinado con otras. Actualmente lo más cercano empieza a ser los predictores de código y los content aware en fotografía, que empiezan a tener parámetros con los que decidir. Aunque dependen fuertemente de la bbdd de la que deben de tirar para devolver resultados (como nosotros de nuestra memoria) ...y en ese "como" se recrean los conceptos es uno de los origenes de la creatividad.

Internamente es un mundo de locos el de la IAs.
Calmatum et Tranquilitis

Hunde en la miseria o indulta a tus terrores aeroprimigenios favoritos en: ESPANTOS AERONAUTICOS
Avatar de Usuario
Truquichan
 
Mensajes: 2204
Registrado: Vie Jun 25, 2021 9:21 am

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor champi el Jue Mar 03, 2022 1:56 pm

Pequeño contrato para el programa BARD ("Building Artificial Intelligence for Reliable Defense"): https://sam.gov/opp/692a4b7a537c4e51a11 ... c26b7/view
...
Department/Ind. Agency
DEPT OF DEFENSE
Sub-tier
DEPT OF THE AIR FORCE
Major Command
AFMC
Sub Command
AIR FORCE RESEARCH LABORATORY
...
Contractor Awarded Name: BOOZ ALLEN HAMILTON INC.
Contractor Awarded Address: McLean, VA 22102 USA
Base and All Options Value (Total Contract Value): $2368016.00
...
champi
Moderador
 
Mensajes: 13523
Registrado: Vie Nov 21, 2008 10:53 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor dejece el Jue Mar 03, 2022 2:13 pm

¿Sí una IA comete un crimen de guerra a quién se juzga? :c8
dejece
 
Mensajes: 3795
Registrado: Vie Mar 19, 2021 9:05 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Orel el Jue Mar 03, 2022 4:02 pm

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos
Avatar de Usuario
Orel
Moderador
 
Mensajes: 45969
Registrado: Sab Sep 24, 2005 11:33 am
Ubicación: España, en el bocho

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor dejece el Jue Mar 03, 2022 5:17 pm

Orel escribió:
dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos

¿Ya pero y si la máquina decide a quién matar ?
Para encontrar el vacío legal y así poder hacer lo que se quiera
dejece
 
Mensajes: 3795
Registrado: Vie Mar 19, 2021 9:05 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Atticus el Vie Mar 04, 2022 12:34 pm

Orel escribió:
dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos


Cuidado. Que no es lo mismo "responsabilidad" que "culpabilidad". Un piloto que bombardea a sabiendas un hospital es culpable. Pero de una IA que lo hiciera, aunque no coincidiera con los deseos de sus fabricantes, habra "responsables",que no es lo mismo. Se deberia tratar como un "malfuncionamiento" de una maquina que causa daños imprevistos.

No obstante, antes de llegar al punto de que una IA pudiera, o pudiese, estar en disposicion de tomar decisiones que pudieran, o pudiesen, terminar en el bombardeo de un hospital... Antes que eso ya deberiamos tener en marcha el programa "John Connor" de defensa anti AI.

Pero no van a ir por ahi los tiros, ni los bombardeos. Lo divertido va a venir cuando esas IA empiecen a utilizarse en labores de ataques ciberneticos y puedan hacerlo mejor que ahora. Entoces vais a ver que risas cuando tengamos que ir al combate con nuestras relucientes hachas de piedra.
----------------------------------

"Un cerdo que no vuela solo es un cerdo". Marco Porcellino.
Avatar de Usuario
Atticus
 
Mensajes: 7123
Registrado: Jue Ago 22, 2019 1:57 pm
Ubicación: Mecanisburgo

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Orel el Vie Mar 04, 2022 12:58 pm

dejece escribió:
Orel escribió:
dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

¿Ya pero y si la máquina decide a quién matar ?

¿Y si el soldado decide a quién matar?
Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.

Saludos
Avatar de Usuario
Orel
Moderador
 
Mensajes: 45969
Registrado: Sab Sep 24, 2005 11:33 am
Ubicación: España, en el bocho

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Orel el Vie Mar 04, 2022 1:08 pm

Atticus escribió:
Orel escribió:
dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Cuidado. Que no es lo mismo "responsabilidad" que "culpabilidad". Un piloto que bombardea a sabiendas un hospital es culpable. Pero de una IA que lo hiciera, aunque no coincidiera con los deseos de sus fabricantes, habra "responsables",que no es lo mismo. Se deberia tratar como un "malfuncionamiento" de una maquina que causa daños imprevistos...

Has ido a algo muy fácil. Ponlo en genérico: un piloto bombardea un hospital. Puede ser por motivos humanos y/o técnicos, igualmente puede haber responsables y/o malfuncionamiento. Ahora habrá que analizar:
- si era un objetivo asignado (¿por qué, quién lo asignó, etc?),
- si se sabía de antemano que era un hospital (¿fallo de inteligencia, acaso el sensor falló al asignarlo, hecho aposta, por qué, quién lo decidió?),
- si hubo fallo del sistema de armas (¿fallo sistemático, quién era el responsable de ensayos, fallo puntual de mantenimiento, quién hizo ese mto. ...?),
- si "el piloto lo hizo a sabiendas" (¿por qué, cuál era su estado psicológico, quién le hizo la última evaluación, quién le asignó esa misión?)
- Etc, etc.

Pues parecido con un "robot con IA".

Ahora pongo ejemplos para que penséis, que YA se han dado en guerras reales:
¿A quién se juzga cuando un misil con capacidad dispara y olvida es lanzado en modo "mata lo que pilles"? P.ej. HARM lanzados en Allied Force preventivamente por delante de los grupos de ataque sin asignar objetivo para que se lancen contra lo primero que se active; o los Patriot en modo automático en Desert Storm que produjeron algún derribo amigo; o ciertos misiles anticarro que tienen esa capacidad... Incluso más simple aún, una mina o "trampa" de toda la vida, donde el hombre no decida lo que ataca.
Esa mina o misil "en modo autónomo" lo mismo ataca una fragata o un carro enemigo... o lo mismo ataca un crucero turístico o una ambulancia. La responsabilidad es del arma... o es de quien la lanzó; o de quien ordenó la misión; o de Inteligencia que dijo que ahí había enemigos; o del fabricante porque el arma no ha funcionado como debía; o de mto. porque el arma no estaba correctamente mantenida ; o del organismo de ensayos y certificación del arma que lo hizo mal; Etc, etc. Como digo: en cada caso habrá que analizarlo.

Saludos
Avatar de Usuario
Orel
Moderador
 
Mensajes: 45969
Registrado: Sab Sep 24, 2005 11:33 am
Ubicación: España, en el bocho

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor dejece el Vie Mar 04, 2022 1:30 pm

Orel escribió:Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.
Saludos

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?
dejece
 
Mensajes: 3795
Registrado: Vie Mar 19, 2021 9:05 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Orel el Vie Mar 04, 2022 1:32 pm

dejece escribió:
Orel escribió:Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.
Saludos

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

No.
Otra cosa es hacer trampas como mandar a tus tropas/armas/robots sin "marcas identificativas", como hizo Rusia en el Este de Ucrania desde 2014, y entonces "no son tuyos". Pero eso es otra cosa, como vemos aplicable igualmente a "humanos".

Saludos
Avatar de Usuario
Orel
Moderador
 
Mensajes: 45969
Registrado: Sab Sep 24, 2005 11:33 am
Ubicación: España, en el bocho

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor ruso el Vie Mar 04, 2022 1:34 pm

dejece escribió:
Orel escribió:...

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

No.

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.
...que parezca un accidente...
Avatar de Usuario
ruso
 
Mensajes: 8059
Registrado: Lun Jul 28, 2008 6:58 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Orel el Vie Mar 04, 2022 1:37 pm

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.

Como llevo diciendo toda la vida: un soldado sigue órdenes. Una máquina también.
Las diferencias en favor de los humanos es que somos mucho más capaces de improvisar y de ser creativos que ninguna "IA". Y en general se dice que será así siempre.

Saludos
Avatar de Usuario
Orel
Moderador
 
Mensajes: 45969
Registrado: Sab Sep 24, 2005 11:33 am
Ubicación: España, en el bocho

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor dejece el Vie Mar 04, 2022 1:40 pm

ruso escribió:No.

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.

Entonces no hay una especie de skynet diga se hace esto es ciencia ficción.Ahora lo entiendo gracias por el comentario 8) :)
dejece
 
Mensajes: 3795
Registrado: Vie Mar 19, 2021 9:05 pm

Re: Inteligencia artificial, redes neuronales, machine learning

Notapor Atticus el Vie Mar 04, 2022 5:04 pm

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?


A ver... las leyes de guerra no existen para buscar resquicios, existen para diferenciarnos de los animales de bellota.

Como llevo diciendo toda la vida: un soldado sigue órdenes. Una máquina también.


Joder... Con eso han escrito una cuarta parte de los episodios de Star Trek, con la definicion de "humanidad". :lol: Una IA lo es precisamente porque es capaz de tomar decisiones, no solo cumplir ordenes. Tu, a lo sumo, le darias directrices exactamente igual que harias con tus soldados humanos. Despues las interpretaran como sea. Por simplificar con un ejemplo, si tu le das a tus tropas la orden de combatir al enemigo con todas las fuerzas y estos la interpretan como "arrasar con todo incluido hospitales" (cosa que puede incluso oponerse al sentido que tu, como comandante, querias darle). Pues si se cargan el famoso hospital el general no es culpable porque nunca dio esa orden (ni nada parecido). Pero es responsable. Con una IA pasa exactamente lo mismo. Si la famosa IA toma unas decisiones por su cuenta (que para eso es una inteligencia) que choca incluso con los preceptos de los suyos... Pues esos suyos serian responsables, pero no culpables. Las culpabilidades con las cupulas vendrian despues, y atendiendo a las medidas tomadas cuando se hubiera producido esos hechos. Desde castigar (desenchufar) a los culpables hasta poner medidas para evitar que se repitan los hechos. Lo que haga una IA no es muy diferente de un My Lay cualquiera.
----------------------------------

"Un cerdo que no vuela solo es un cerdo". Marco Porcellino.
Avatar de Usuario
Atticus
 
Mensajes: 7123
Registrado: Jue Ago 22, 2019 1:57 pm
Ubicación: Mecanisburgo

PrevioSiguiente

Volver a Defensa

¿Quién está conectado?

Usuarios navegando por este Foro: No hay usuarios registrados visitando el Foro y 13 invitados