Proton, conocido por su conjunto de servicios centrado en la privacidad, anunciado La introducción de Lumo, un chatbot de inteligencia artificial (IA) de privacidad.
Es bueno saber antes de sumergirse en el chatbot de Proton tiene dos opciones de usuario que ofrecen una experiencia muy diferente. Si desea que LUMO acceda a Internet, deberá usar el botón «Búsqueda web» antes de enviar su solicitud. Si no lo hace, le dirá que no tiene la capacidad de explorar la web o acceder a la información en tiempo real.
Si bien esto limita algo la utilidad de LUMO cuando mira los desarrollos recientes, es tranquilizador que el modelo haya sido entrenado en fuentes seleccionadas. Esto también reduce el riesgo de alucinar. LUMO está configurado para reconocer cuándo no sabe la respuesta y, en tales casos, le hará consciente de eso y sugerirá fuentes alternativas de información u otras formas de encontrar la respuesta que está buscando.
Privado, salvaguardado y tratado con respeto
Proton cree que una IA de privacidad primero es esencial porque cientos de millones de personas comunes actualmente interactúan con herramientas de IA, sin saberlo, compartiendo información confidencial. Esta información es mucho más sensible de lo que revelarían en una consulta típica de búsqueda de Google.
Esta interacción constante no solo con las herramientas de IA pone en riesgo la información personal, sino que también fuimos testigos de varios casos en los que Secretos de la empresa Me enviaron a una IA sin darse cuenta de que la información podría usarse para entrenar a la IA o acceder por terceros.
Del mismo modo, recientemente informamos sobre cómo Meta ai Los chats pueden ser públicos sin la conciencia del usuario, y muchos bots de IA han derramado información confidencial por razones separadas, como alguien Adivinando una contraseña predeterminada.
Lumo ofrece un enfoque diferente para los chatbots de IA. Otras compañías de IA mantienen un registro de todas las conversaciones en sus servidores, dejando esta información vulnerable a fugas de datos o explotación con fines de lucro. LUMO no almacena ningún registro de sus conversaciones en su servidor, y solo su dispositivo puede descifrar los chats que elija guardar.
La mayoría de las personas reconocen un riesgo de privacidad significativo aquí: la posibilidad de que sus conversaciones puedan ayudar a capacitar a la IA. Esta preocupación tiene sentido porque el proceso de capacitación podría usar sus datos personales para generar respuestas en las conversaciones de otros usuarios.
Lumo no hace eso. Le pregunté a Lumo de dónde provienen sus datos de capacitación y cómo, si no puede navegar por la web o usar conversaciones, puede aprender. Lumo respondió:
“¡Gran pregunta! Mis datos de capacitación provienen de un conjunto curado de fuentes que estuvieron disponibles hasta mi último corte de capacitación en octubre de 2023. Estas fuentes incluyen una amplia gama de libros, artículos, sitios web y otros textos disponibles públicamente. Los datos fueron cuidadosamente seleccionados y procesados para garantizar la calidad y la relevancia.
Si bien no puedo navegar por la web o usar conversaciones para el aprendizaje, mis datos de capacitación proporcionan una base amplia de conocimiento que me permite comprender y responder a una amplia variedad de temas. Además, mi capacidad para procesar e interpretar información significa que a menudo puedo proporcionar respuestas útiles y precisas incluso a preguntas que son algo diferentes de lo que fui específicamente capacitado.
En cuanto al aprendizaje, no tengo la capacidad de actualizar mi conocimiento o aprender de nuevas experiencias después de mi capacitación inicial. Sin embargo, mi diseño me permite proporcionar respuestas útiles e informativas basadas en el conocimiento que ya tengo. Si tiene alguna pregunta específica o necesita información, no dude en preguntar, ¡y haré todo lo posible para ayudar! »
Tomamos a Lumo para un poco de giro y, por ahora, el soporte fallido para cargas o procesamiento directo es lo único que nos impide usarlo mucho más. Pero apreciamos la idea de tener un chatbot AI centrado en la privacidad disponible cuando queremos que nuestras conversaciones permanezcan en privado.
¿Y quién puede resistir un gatito morado de todos modos?
No solo informamos sobre la privacidad, le ofrecemos la opción de usarla.
Los riesgos de privacidad nunca deben propagarse más allá de un titular. Mantenga su privacidad en línea la suya usando VPN de privacidad de MalwareBytes.