OPML: Optimización del aprendizaje automático en la Cadena de bloques

OPML(El aprendizaje automático optimista) es una tecnología emergente que permite la inferencia y el entrenamiento de modelos de IA en sistemas de Cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de bajo costo y alta eficiencia. Es importante señalar que la barrera de entrada para OPML es muy baja: incluso una PC común puede ejecutar modelos de lenguaje grandes, como el modelo 7B-LLaMA de 26 GB.

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y la verificabilidad de los servicios de ML. Su flujo de trabajo es el siguiente:

1. El usuario inicia una solicitud de servicio ML
2. El servidor completa la tarea y envía el resultado on-chain
3. Los validadores verifican los resultados, y si hay objeciones, inician un juego de validación.
4. Localizar con precisión los pasos en disputa a través del protocolo de bifurcación
5. Finalmente, realizar la arbitraje paso a paso en el contrato inteligente

El juego de verificación de una sola etapa de OPML es similar al cálculo de la delegación (RDoC). Incluye los siguientes puntos clave:

• Construir una máquina virtual de ejecución fuera de la cadena y arbitraje en la cadena (VM)
• Implementar una biblioteca DNN ligera especializada para mejorar la eficiencia
• Utilizar tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM
• Utilizar árboles de Merkle para gestionar las imágenes de VM, solo subir la raíz a la cadena de bloques.

Sin embargo, los juegos de verificación de una sola etapa tienen una limitación principal: todos los cálculos deben realizarse dentro de la VM, sin poder aprovechar adecuadamente la aceleración de GPU/TPU. Para ello, OPML ha propuesto un esquema de expansión de juegos de verificación de múltiples etapas.

La idea central del OPML de múltiples etapas es:

• Solo calcular en la VM en la fase final
• Otras etapas se pueden ejecutar en el entorno local, aprovechando al máximo los recursos de hardware.
• Utilizar árboles de Merkle para garantizar la integridad y seguridad de las transiciones entre etapas

Tomando como ejemplo el modelo LLaMA, el flujo de trabajo de OPML de dos etapas es:

1. Segunda fase: realizar el juego de verificación sobre el gráfico de cálculo, utilizando CPU o GPU de múltiples hilos.
2. Primera fase: convertir el cálculo de un solo nodo en instrucciones de VM

Las soluciones OPML de múltiples etapas tienen ventajas significativas en comparación con las de una sola etapa:

• Aumento de velocidad de cálculo α veces ( α para GPU / relación de aceleración paralela )
• El tamaño del árbol de Merkle se reduce de O(mn) a O(m+n)

Para asegurar la consistencia de los resultados de ML, OPML ha adoptado dos tecnologías clave:

1. Algoritmo de punto fijo ( tecnología de cuantificación ): usar precisión fija en lugar de números de punto flotante
2. Biblioteca de punto flotante basada en software: garantizar la coherencia entre plataformas

En general, OPML ofrece una solución eficiente, de bajo costo y descentralizada para el aprendizaje automático en la cadena de bloques. Aunque actualmente se centra principalmente en la inferencia de modelos, el marco también admite el proceso de entrenamiento, y se espera que se convierta en una plataforma de aprendizaje automático general.