Connect with us

Ciencia y tecnología

Ahora que las máquinas pueden aprender, ¿pueden desaprender?

Published

on

Andriy Onufriyenko | imágenes falsas

Empresas de todo tipo utilizan aprendizaje automático analizar los deseos, disgustos o rostros de las personas. Algunos investigadores ahora se están haciendo una pregunta diferente: ¿cómo hacer que las máquinas olviden?

Un campo incipiente de la informática llamado máquina desaprender está buscando formas de inducir amnesia selectiva en inteligencia artificial Software. El objetivo es eliminar todos los rastros de una persona en particular o un punto de datos de un sistema de aprendizaje automático, sin afectar su rendimiento.

Si se hace práctico, el concepto podría dar a las personas más control sobre sus datos y el valor que se deriva de ellos. Si bien los usuarios ya pueden pedir a algunas empresas que eliminen los datos personales, por lo general desconocen qué algoritmos ha ayudado a clasificar o entrenar su información. El desaprendizaje automático podría permitir que una persona se llevara tanto sus datos como la capacidad de una empresa para beneficiarse de ellos.

Si bien es intuitivo para cualquiera que se arrepienta de lo que compartieron en línea, esta noción de amnesia artificial requiere nuevas ideas en informática. Las empresas gastan millones de dólares en capacitar algoritmos de aprendizaje automático para reconocer rostros o clasificar publicaciones en redes sociales porque los algoritmos a menudo pueden resolver un problema más rápido que los codificadores humanos por sí solos. Pero una vez entrenado, un sistema de aprendizaje automático no se manipula fácilmente, o incluso entendido. La forma convencional de eliminar la influencia de un punto de datos en particular es reconstruir un sistema desde cero, un ejercicio potencialmente costoso. «Esta investigación tiene como objetivo encontrar un terreno común», dice Aaron Roth, profesor de la Universidad de Pensilvania que trabaja en el desaprendizaje automático. «¿Podemos eliminar toda influencia de los datos de alguien cuando solicitan su eliminación, evitando al mismo tiempo el costo total del reciclaje desde cero?» «

READ  CES 2021: Belkin lanza el nuevo cargador MagSafe 2 en 1, encuentre mis auriculares inalámbricos Soundform compatibles

El trabajo en el desaprendizaje automático se debe en parte a la creciente atención a las formas en que la inteligencia artificial puede erosionar la privacidad. Los reguladores de datos de todo el mundo han tenido durante mucho tiempo el poder de obligar a las empresas a suprimir la información obtenida ilegalmente. Ciudadanos de determinadas localidades, como la ME y California, incluso tiene derecho a pedirle a una empresa que elimine sus datos si cambia de opinión sobre lo que ha revelado. Más recientemente, los reguladores de EE. UU. Y la UE han dicho que los propietarios de sistemas de inteligencia artificial a veces necesitan ir un paso más allá: eliminar un sistema que haya sido capacitado en datos confidenciales.

El año pasado, el regulador de datos del Reino Unido empresas informadas que algunos software de aprendizaje automático pueden estar sujetos a derechos de GDPR, como la eliminación de datos, porque un sistema de inteligencia artificial puede contener datos personales. Los investigadores de seguridad han demostrado que los algoritmos a veces pueden verse obligados a revelar datos confidenciales utilizados en su creación. A principios de este año, la Comisión Federal de Comercio de los Estados Unidos la startup de reconocimiento facial forzado Paravision para eliminar una colección de fotos de rostros obtenidos incorrectamente y algoritmos de aprendizaje automático entrenados con ellos. El comisionado de la FTC, Rohit Chopra, elogió la nueva táctica de aplicación de la ley como una forma de obligar a una empresa de ruptura de datos a «renunciar a los frutos de su engaño».

La pequeña área de la investigación sobre el desaprendizaje automático se enfrenta a algunas de las cuestiones prácticas y matemáticas que surgen de estos cambios regulatorios. Los investigadores han demostrado que pueden hacer que los algoritmos de aprendizaje automático se olviden bajo ciertas condiciones, pero la técnica aún no está lista para el horario de máxima audiencia. “Como es común en un dominio joven, existe una brecha entre lo que este dominio aspira a hacer y lo que sabemos hacer ahora”, dice Roth.

READ  Spotify actualiza las pantallas de inicio de las aplicaciones iOS / Android con podcasts y reproducciones recientes

Un enfoque prometedor propuesto en 2019 por investigadores de las universidades de Toronto y Wisconsin-Madison es separar los datos de origen de un nuevo proyecto de aprendizaje automático en varias partes. Luego, cada uno se procesa por separado, antes de que los resultados se combinen en el modelo final de aprendizaje automático. Si es necesario olvidar un punto de datos más adelante, solo es necesario volver a procesar una fracción de los datos de entrada originales. Se ha demostrado que el enfoque funciona con datos de compras en línea y una colección de más de un millón de fotos.

Roth y sus asociados en Penn, Harvard y Stanford recientemente demostró una falla en este enfoque, mostrando que el sistema de desaprendizaje colapsaría si las solicitudes de eliminación enviadas llegaran en un orden particular, ya sea por casualidad o por un actor malintencionado. También mostraron cómo se podría aliviar el problema.

Gautam Kamath, profesor de la Universidad de Waterloo que también trabaja en el desaprendizaje, dice que el problema que encontró y resolvió el proyecto es un ejemplo de las muchas preguntas abiertas que quedan sobre cómo hacer que el desaprendizaje automático sea algo más que una simple curiosidad de laboratorio. Su propio grupo de investigación fue explorador cómo se reduce la precisión de un sistema al desaprender sucesivamente varios puntos de datos.

Kamath también está interesado en encontrar formas para que una empresa demuestre, o un regulador verifique, que un sistema realmente ha olvidado lo que se suponía que debía desaprender. «Siento que está un poco más lejos, pero tal vez terminen teniendo oyentes para estas cosas», dice.

READ  Si llegas al 2068 podrías ver el impacto del asteroide Apophis contra la Tierra

Es probable que surjan razones regulatorias para explorar la posibilidad del desaprendizaje automático a medida que la FTC y otros analicen más de cerca el poder de los algoritmos. Reuben Binns, profesor de la Universidad de Oxford que estudia la protección de datos, dice que la idea de que las personas deberían tener voz en el destino y los frutos de sus datos ha crecido en los últimos años en Estados Unidos y Europa.

Se necesitará un trabajo técnico virtuoso antes de que las empresas de tecnología puedan implementar el desaprendizaje automático como una forma de dar a las personas más control sobre el destino algorítmico de sus datos. Incluso entonces, es posible que la tecnología no cambie mucho los riesgos de privacidad en la era de la IA.

Confidencialidad diferencial, una ingeniosa técnica para establecer límites matemáticos sobre lo que un sistema puede revelar sobre una persona, proporciona una comparación útil. Apple, Google y Microsoft celebran la tecnología, pero se usa con relativa poca frecuencia y los peligros para la privacidad son siempre numerosos.

Binns dice que si bien puede ser realmente útil, «en otros casos, es más algo que una empresa hace para mostrar su innovación». Sospecha que el desaprendizaje automático puede resultar similar, más una demostración de perspicacia técnica que un cambio importante en la protección de datos. Incluso cuando las máquinas aprenden a olvidar, los usuarios deberán recordar tener cuidado con quién comparten datos.

Esta historia apareció originalmente en wired.com.

Soy un profesional de gestión deportiva con conocimientos adecuados sobre la industria del deporte en España. Tengo varias habilidades que me han ayudado a trabajar en diferentes sectores del deporte en España, incluyendo eventos deportivos, desarrollo de base para el deporte e infraestructura deportiva.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Ciencia y tecnología

Cómo los astronautas podrían prosperar en Marte

Published

on

Para aquellos de nosotros en la Tierra, adaptarnos a una nueva normalidad, como largos períodos de trabajo desde casa e interrupciones en las rutinas establecidas, ha creado la sensación de que el tiempo no tiene sentido.

Los astronautas experimentan un tipo diferente de distorsión del tiempo cuando viajan por el espacio y pasan seis meses o más viviendo en la Estación Espacial Internacional. Desde la perspectiva de su órbita terrestre baja, la tripulación es testigo de 16 amaneceres y 16 puestas de sol por día.

Los días de trabajo de 12 horas de los astronautas están programados en incrementos de hasta cinco minutos mientras trabajan en experimentos, mantienen la estación espacial y realizan el mantenimiento y la limpieza de rutina.

Rompiendo el récord del vuelo espacial más largo realizado por una mujer, la astronauta de la NASA Christina Koch pasó 328 días en el espacio entre marzo de 2019 y febrero de 2020.

«Tenemos un dicho en los vuelos espaciales de larga duración que dice ‘es un maratón, no un sprint'», dijo Koch a CNN. «En mi mente, simplemente lo cambio a ‘esto es un ultramaratón, no un maratón’. Y me aseguré de que la gente a mi alrededor supiera que probablemente necesitaría ayuda en algún momento, y que probablemente confiaría en mí». para diferentes cosas y puede que no sea fácil todos los días».

Mientras se preparaba para su misión sin precedentes, Koch habló con su compañero astronauta de la NASA, Scott Kelly, quien todavía tiene el récord de todos los tiempos con 340 días en el espacio. Kelly le recordó a Koch que era crucial calmarse y expresar lo que necesitaba para recargar energías. Estos consejos, y los que siguen, se aplican ya sea que no tenga peso o esté conectado a tierra en una pandemia global.

“Tenemos muchos programas de contramedidas psicológicas a bordo: videoconferencias con nuestras familias, música y programas de televisión que nos gusta descargar, e incluso la jornada laboral está diseñada para apoyar una misión de seis meses”, dijo Koch.

READ  Controles remotos universales Logitech Harmony descontinuados

«Realmente depende de nosotros dejar que la tripulación de tierra sepa qué contramedidas psicológicas podemos usar para mantener a alguien en el máximo rendimiento incluso más tiempo que una misión típica».

Cómo pasa el tiempo en el espacio

Los eventos dinámicos, como las videollamadas con la familia, las caminatas espaciales fuera de la estación espacial o incluso las celebraciones navideñas, ayudan a la tripulación a distinguir sus días y evitar el retraso causado por la repetición, dijo Koch.

«Incluso si estás realmente ocupado, como lo estábamos nosotros, el hecho de que no estuviéramos viendo cosas nuevas, sintiendo cosas nuevas (y) nuestras entradas sensoriales no estaban cambiando es realmente lo que nos dio la sensación de que estás de vuelta en tiempo», dijo. Suena familiar, ¿verdad?

Koch, junto con la astronauta de la NASA Jessica Meir, realizó la primera caminata espacial exclusivamente femenina en octubre de 2019. Durante su estadía de 11 meses en la estación espacial, Koch completó seis caminatas espaciales y pasó 42 horas y 15 minutos fuera de la estación.

Sin embargo, en el recuerdo de Koch de su tiempo de servicio, las caminatas espaciales juegan un papel muy importante en lo que experimentó. “Cuando pienso en ello, en mi mente, la mitad del tiempo estaba haciendo caminatas espaciales”, dijo Koch. «Pero en realidad, esa fue una parte tan pequeña de lo que hicimos. Parece una parte tan grande en términos de los recuerdos y experiencias que tuve allí».

Así es como los astronautas celebran el Día de Acción de Gracias y otras festividades en el espacio

Otro recuerdo que se destaca para Koch incluye una celebración navideña especial con sus compañeros de equipo. Apagaron todas las luces de la estación y crearon «velas espaciales» poniendo cinta ámbar sobre sus linternas, dispersándolas por toda la estación para que casi pareciera brillar a la luz de las velas.

READ  Las especificaciones del Samsung Galaxy Z Flip 3 se filtraron mucho antes del lanzamiento

«Fue el único día que se sintió como un escape de todo, ni siquiera de la estación espacial, sino de cualquier apariencia de lo que representaba la realidad normal», dijo Koch.

Los rigores de la exploración

Las misiones sin precedentes realizadas por Koch y Kelly son solo el comienzo. Las misiones extendidas ayudan a la NASA a planificar el regreso de los humanos a la Luna y enviarlos en misiones pioneras a Marte.

Las misiones en el espacio profundo agregarán extremos que los astronautas nunca antes han enfrentado, incluida una dependencia cada vez menor de las comunicaciones con los que están en la Tierra y cómo lidiar con ellos. aislamiento social vivir en un ambiente extraño.
Los astronautas en una misión a Marte tendrán que ser
Hay tres bancos de pruebas para prepararse para esta nueva frontera de exploración: misiones simuladas en la tierra, estancias prolongadas en la estación espacial, y finalmente el primeras misiones artemisa que llevará a la primera mujer y la primera persona de color a la luna.

Durante las primeras misiones de Artemis, los astronautas llevarán diarios para hacer una crónica de su bienestar y usarán dispositivos para rastrear su sueño y ritmos circadianos, según la NASA.

Mantener un ciclo de sueño saludable, comunicarse bien con el resto de la tripulación y aliviar el aburrimiento y el estancamiento podría ayudar a los viajeros espaciales en largas misiones a Marte y evitar que desarrollen trastornos psiquiátricos o experimenten problemas cognitivos o conductuales.

Una vez en Marte, los astronautas también tendrán tareas difíciles y exigentes físicamente y pasarán días 37 minutos más que los de la Tierra.

Lecciones de autocuidado desde el espacio

Algo que ya ayuda a mantener el bienestar mental de los astronautas en la estación espacial es la jardinería espacial. Los miembros de la tripulación dijeron que disfrutan de experiencias de plantación ocupadas durante su tiempo de inactividad, ver vegetación e incluso probar el sabor fresco de sus esfuerzos. También proporciona una conexión tangible con su planeta de origen.

Astronautas celebran cosecha récord de Chile en el espacio con noche de tacos
Tom Williams, científico senior de factores humanos y el elemento de rendimiento conductual del programa de investigación humana de la NASA, dice su acrónimo «ENLAZAR«puede ayudar a los astronautas a combatir el aislamiento social.

Las letras representan comunidad, apertura, creación de redes, necesidades, mentalidad expedicionaria, contramedidas y capacitación. Juntos, estos esfuerzos pueden ayudar a los futuros exploradores espaciales a incluir el cuidado personal en sus apretadas agendas, cuidarse unos a otros e incluso reconocer el impacto de sus esfuerzos.

READ  WhatsApp actualiza la marca en una nueva actualización, ahora "WhatsApp de Meta"

“El alunizaje ayudó a personas de todo el mundo a sentirse más unidas porque sintieron un sentido de pertenencia, de unidad, con esperanzas compartidas y sueños cumplidos”, dijo Williams en un comunicado comunicado.

Para cualquier persona en la Tierra que sienta que está experimentando una distorsión del tiempo a medida que continúa la pandemia, se aplican las mismas lecciones.

«Ayuda a otros y ofrécete a los demás para que te ayuden”, dijo Koch. “Aprende a sentirte cómodo sentado con tu propia satisfacción. El otro lado de esto es crear hitos para ti mismo. Creo que cuando miramos hacia atrás, encontramos que hicimos más de lo que pensábamos».
Continue Reading

Ciencia y tecnología

El malware de Android puede restablecer los teléfonos de fábrica después de vaciar las cuentas bancarias

Published

on

imágenes falsas

Un troyano de fraude bancario que ha estado atacando a los usuarios de Android durante tres años se actualizó para crear aún más quejas. Además de drenar las cuentas bancarias, el troyano ahora puede activar un interruptor de interrupción que realiza un restablecimiento de fábrica y limpia los dispositivos infectados.

Brata se documentó por primera vez en un correo de la firma de seguridad Kaspersky, que informó que el malware de Android había estado circulando desde al menos enero de 2019. El malware se propagó principalmente a través de Google Play, pero también a través de mercados de terceros, notificaciones automáticas en sitios web comprometidos, enlaces patrocinados en Google y mensajes enviados por WhatsApp o SMS. En ese momento, Brata apuntó a personas con cuentas de bancos con sede en Brasil.

Cubriendo sus pistas maliciosas

Ahora Brata está de vuelta con una gran cantidad de nuevas capacidades, la más importante de las cuales es la capacidad de realizar un restablecimiento de fábrica en los dispositivos infectados para borrar cualquier rastro del malware después de que se haya intentado una transferencia bancaria no autorizada. La empresa de seguridad Cleafy Labs, que informó por primera vez el interruptor de apagado, dijo que otras características añadidas recientemente a Brata incluyen el seguimiento por GPS, una comunicación mejorada con los servidores de control, la capacidad de monitorear continuamente las aplicaciones bancarias de las víctimas y la capacidad de apuntar a las cuentas de los bancos ubicados en otros países. El troyano ahora funciona con bancos ubicados en Europa, EE. UU. y América Latina.

READ  Pokémon GO pronto ampliará el límite de la lista de amigos

“Descubierto por primera vez dirigido a usuarios brasileños de Android en 2019 por Kaspersky, el troyano de acceso remoto (RAT) se ha actualizado, apuntando a más víctimas potenciales y agregando un interruptor de apagado a la mezcla para cubrir sus rastros maliciosos”, dijeron investigadores de la firma de seguridad Zimperium en un correo confirmando los hallazgos de Cleafy. “Después de que el malware haya infectado y realizado con éxito una transferencia bancaria desde la aplicación bancaria de la víctima, forzará un restablecimiento de fábrica en el dispositivo de la víctima”.

Esta vez, no hay evidencia de que el malware se esté propagando a través de Google Play u otras tiendas oficiales de Android de terceros. En cambio, Brata se propaga a través de mensajes de texto de phishing disfrazados de alertas bancarias. Las nuevas capacidades están circulando en al menos tres variantes, todas las cuales pasaron casi completamente desapercibidas hasta que Cleafy las descubrió por primera vez. El sigilo es, al menos en parte, el resultado de un nuevo descargador utilizado para distribuir las aplicaciones.

Además del interruptor de apagado, Brata ahora busca permiso para acceder a las ubicaciones de los dispositivos infectados. Si bien los investigadores de Cleafy dijeron que no encontraron ninguna evidencia en el código de que Brata esté utilizando el seguimiento de ubicación, especularon que las futuras versiones del malware podrían comenzar a aprovechar la función.

El malware también se actualizó para mantener una conexión persistente con el servidor de comando y control del atacante (o C2) en tiempo real usando un zócalo web.

READ  Si llegas al 2068 podrías ver el impacto del asteroide Apophis contra la Tierra

“Como se muestra en la Figura 17 [below], el protocolo webSocket es utilizado por el C2 que envía comandos específicos que deben ejecutarse en el teléfono (por ejemplo, whoami, byebye_format, screen_capture, etc.)”, escribieron los investigadores de Cleafy. «Hasta donde sabemos, el malware (desde la perspectiva de la conexión) está en estado de espera la mayor parte del tiempo, hasta que el C2 emite comandos que instruyen a la aplicación para el siguiente paso».

Laboratorios Cleafy

Las nuevas capacidades subrayan el comportamiento en constante evolución de las aplicaciones de crimeware y otros tipos de malware a medida que sus autores se esfuerzan por aumentar el alcance de las aplicaciones y los ingresos que generan. Los usuarios de teléfonos Android deben tener cuidado con el malware malicioso limitando la cantidad de aplicaciones que instalan, asegurándose de que las aplicaciones provengan solo de fuentes confiables e instalando actualizaciones de seguridad rápidamente.

Continue Reading

Ciencia y tecnología

Discord ha caído – The Verge

Published

on

Discord está experimentando una interrupción generalizada, lo que impide que muchos usuarios se conecten a la aplicación de comunicaciones. La interrupción comenzó alrededor de las 2:45 p. m. ET e impide que los usuarios se unan a las llamadas o participen en chats de texto. “Actualmente estamos investigando una interrupción generalizada de API y estamos trabajando para resolver esto lo antes posible”, dice el cuenta oficial de Twitter de Discord.

Discord es ampliamente utilizado por la comunidad de jugadores y actualmente cuenta con 150 millones de usuarios activos mensuales. Esta última interrupción parece estar afectando a la mayoría de los usuarios, con informes generalizados de problemas incluso al conectarse al servicio. Algunos usuarios de Discord actualmente conectados al servicio pueden continuar usando el chat de texto o participar en llamadas.

En un mensaje en el cliente de Discord, la empresa dice:

Hemos identificado el problema subyacente con la interrupción de la API, pero estamos lidiando con un problema secundario en uno de nuestros clústeres de bases de datos. Tenemos todo nuestro equipo de respuesta de guardia en línea y respondiendo al problema.

Mensaje de interrupción de Discord a los usuarios.
Imagen: Discordia

Discord dice que ahora está limitando los inicios de sesión «para administrar la carga de tráfico», y que los usuarios que actualmente están conectados deberían poder usar el servicio con éxito en este momento. «Estaremos elevando lentamente los límites aquí para permitir que más usuarios entren», dice Discord.

Discord experimentó por última vez una breve interrupción en noviembre, después de Problemas de la nube de Google causó problemas para la aplicación de comunicaciones. Este último tiempo de inactividad está marcado como una «interrupción importante» en Página de estado de Discordy está claro que ha desconectado completamente el servicio para la mayoría de los usuarios.

La discordia ha sido construyendo silenciosamente su propia plataforma de aplicaciones basada en bots en los últimos años, y planea lanzar una nueva función de descubrimiento de aplicaciones en la primavera. Los bots son una parte importante de la experiencia de Discord, ya que más del 30 % de los servidores de Discord los utilizan.

Actualización, 26 de enero a las 3:20 p. m. ET: Artículo actualizado con más información sobre interrupciones.

READ  CES 2021: Belkin lanza el nuevo cargador MagSafe 2 en 1, encuentre mis auriculares inalámbricos Soundform compatibles
Continue Reading

Trending