Download Presentacion_streams

Diseño de microprocesadores para multimedia
Procesadores de streams
Pedro Hernández Fernández
Antonio Núñez Ordóñez
Procesadores de streams
1
Procesadores de streams
Contenido
- Características generales
- Arquitectura IMAGINE
- Arquitectura MERRIMAC
Procesadores de streams
2
Procesadores de streams
Procesadores programables optimizados para ejecutar
aplicaciones multimedia
- Comprensión de video
- Gráfico en tres dimensiones
- Procesamiento de imágenes
Aplicaciones
multimedia
- Procesamiento de señales
Procesador
de
streams
- Videoconferencia
- Reconocimiento de voz
Procesadores de streams
3
Procesadores de streams
v Características aplicaciones multimedia
- Alto nivel de paralelismo
- Poca reutilización de los datos
- Alta carga computacional
Aplicaciones
multimedia
Procesador
de
streams
- Alta relación
operaciones/accesos a memoria
- Localidad Productor-Consumidor
Procesadores de streams
4
Opciones actuales
v EFICIENCIA
Procesadores de aplicaciones específicas (ASIC)
m 50 a 500 GOPS/W
m Flexibilidad mínima o nula
v PROGRAMABILIDAD
Microprocesadores o DSPs
m Eficiencia pequeña 10GOPS/W
m Programables usando lenguajes de alto nivel
Procesadores de streams
5
Opciones actuales
Procesadores
aplicaciones
específicas
Eficientes
Flexibilidad mínima
Procesadores
de
streams
Eficientes
Programables
Procesadores de streams
DSPs
Microprocesadores
Poco eficientes
Programables
6
Fichero de registros central
v Área proporcional al cubo del número de unidades funcionales
v Potencia proporcional al cubo del número de unidades funcionales
v Retardo proporcional 3/2 del número de unidades funcionales
Procesadores de streams
7
1ª Solución: Fichero de registros múltiples
v Sustituir el fichero único por múltiples ficheros de registros
v Las unidades funcionales se agrupan
v Se asigna a cada grupo su propio fichero de registros
Procesadores de streams
8
2ª Solución: Fichero de registros múltiples con buses compartidos
v Las unidades funcionales se conectan usando buses compartidos
v Las unidades funcionales pueden leer/escribir directamente en los
ficheros de registros
Procesadores de streams
9
Modelo de programación con streams
Definiciones
v El dato mínimo con el que se trabaja se denomina STREAM
v STREAM: Conjunto de datos relacionados de longitud variable
v KERNEL: Pequeño programa que realiza la misma operación
sobre todos los elementos de un stream de entrada,
produce un stream de salida para el siguiente kernel
de la aplicación
Procesadores de streams
10
Modelo de programación con streams
v Los programas se estructuran como una secuencia de streams de datos
que pasan a través de unos kernels de cálculo
v Las operaciones se realizan sobre el stream completo
Stream
43
Stream
dataStream 2
dataStream 1
data
data
data
data data
data
data
data
data
data
data
data data
data
data
data
data
data
Programmable
Kernel
Procesadores de streams
11
Modelo de programación con streams
v Los kernels no pueden hacer referencias a memoria
v Los kernels operan con datos locales, (los streams de salida de un kernel
son función de los streams de entrada
Stream
43
Stream
dataStream 2
data
data
data
data
data
data
data
data
data
data
data
data
data
data
Stream 1
Programmable
Kernel
Procesadores de streams
transformed data
transformed data
transformed data
transformed data
transformed data
12
Modelo de programación con streams
Stream
43
Stream
data
data
data
data
data
data
data
data
data
data
Programmable
Kernel
Procesadores de streams
Stream
21
Stream
data
transformed data
data
transformed data
data
transformed data
data
transformed data
data
transformed data
13
Modelo de programación con streams
Stream 4
data
data
data
data
data
Programmable
Kernel
Procesadores de streams
Stream 3
Stream
21
data
Stream
data
data
transformed data
data
data
transformed data
data
data
transformed data
data
data
transformed data
data
transformed data
14
Modelo de programación con streams
Programmable
Kernel
Procesadores de streams
Stream
43
Stream
data
Stream
21
data
data
Stream
data
data
data transformed data
data
data
data
transformed data
data
data
data transformed data
data
data
transformed data
data
transformed data
15
Modelo de programación con streams
Los programas en este modelo se especifican en dos niveles
v A nivel de streams
- La secuencia de kernels que forman la aplicación
- Como están conectados esos kernels
- Nombre y tamaño de los streams con los que se opera
v A nivel de kernel
- Especifica las operaciones a realizar con los datos
Procesadores de streams
16
Jerarquía de memoria
v Las aplicaciones requieren un manejo adecuado del ancho de banda con memoria
v La jerarquía de memoria tiene tres niveles:
- Un nivel de memoria principal: datos grandes o que se acceden de
forma no frecuente
- Nivel intermedio : Aprovechar la localidad de los datos dentro del chip
- Nivel local: Almacenar datos temporales en las operaciones de cálculo
v Las aplicaciones multimedia se adaptan perfectamente a este jerarquía
v La ejecución de los kernels es rápida y eficiente (sólo datos locales)
v El 90% del movimiento de datos es local
Procesadores de streams
17
Imagine
Scott Rixner
Universidad de Stanford
Procesadores de streams
18
IMAGINE
v Procesador multimedia programable diseñado para implementar el modelo de
programación con streams
v Diseñado para ser una prueba del concepto de procesador de streams programable,
mostrando la viabilidad de las estructuras
v Está pensado para actuar como un coprocesador que opera sobre streams de datos
multimedia.
v Diseño organizado alrededor de tres niveles de memoria
- Memoria del sistema (memoria principal)
- Un Fichero de registros global (nivel intermedio)
- Un conjunto de ficheros de registros local (nivel local)
Procesadores de streams
19
IMAGINE: Jerarquía de memoria
- Memoria del sistema (2GB/S)
Procesadores de streams
20
IMAGINE: Jerarquía de memoria
- Memoria del sistema (2GB/S)
- Fichero de registros global (32GB/s) (arquitectura load/store)
Procesadores de streams
21
IMAGINE: Jerarquía de memoria
- Memoria del sistema (2GB/S)
- Fichero de registros global (32GB/s) (arquitectura load/store)
- Conjunto de ficheros de registros local (544GB/s)
Procesadores de streams
22
IMAGINE
Procesadores de streams
23
IMAGINE
Comunicación con
el host y emisión
de instrucciones
Procesadores de streams
24
IMAGINE
Almacena los kernels
de la aplicación
Procesadores de streams
25
IMAGINE
Ejecutan los
kernels
Procesadores de streams
26
IMAGINE
Conección con otros
integrados IMAGINE
Procesadores de streams
27
IMAGINE
Transfiere datos
entre bloques del
chip
Procesadores de streams
28
IMAGINE
Almacenamiento local
Procesadores de streams
29
IMAGINE: Stream Register File
Procesadores de streams
30
IMAGINE: Stream Register File
v Contiene SRAM de 128KB organizada en 1.024 bloques de 32
palabras de 32 bits
v Puede almacenar streams de datos de longitud variable
v La carga/almacen. de streams ocurre entre la memoria y el SRF
v El envío y recepción de datos a través de la red ocurre entre el
interfase de red y el SRF
v Proporciona el streams de entrada a los kernels y almacena el
stream de salida
Procesadores de streams
31
IMAGINE: Stream Register File
Procesadores de streams
32
IMAGINE: Stream Register File
IMAGINE tiene 22 stream buffers:
• ocho cluster stream buffers
(ocho palabras por ciclo)
• ocho network stream buffers
(dos palabras por ciclo)
• cuatro memory system stream buffers
(una palabra por ciclo)
• un microcontroller stream buffer
(una palabra por ciclo),
• un host processor stream buffer
(una palabra por ciclo)
Procesadores de streams
33
IMAGINE: Clusters aritméticos
Procesadores de streams
34
IMAGINE: Clusters aritméticos
- Operaciones en coma flotante de 32 bits en precisión simple
- Operaciones enteras de 32 bits.
- Están totalmente segmentadas, permitiendo una nueva operación en cada ciclo.
Procesadores de streams
35
IMAGINE: Red de comunicación intracluster
Permite el intercambio de datos entre las unidades aritméticas dentro del mismo cluster
Procesadores de streams
36
IMAGINE: Red de comunicación intercluster
Procesadores de streams
37
IMAGINE: Red de comunicación intercluster
v La unidad de comunicación facilita el intercambio de datos entre clusters
v La unidad de comunicación puede enviar una palabra cada ciclo de reloj
v El microcontrolador tiene un bus propio para enviar datos a los clusters
Procesadores de streams
38
IMAGINE: Microcontrolador
Procesadores de streams
39
IMAGINE: Microcontrolador
v Envía instrucciones a los clusters aritméticos
v Cada ciclo envía una instrucción VLIW de 568 bits a los ocho clusters
v Los kernels están almacenados en una memoria de 2K instrucciones por
568 bits
v
Los kernels se cargan solamente una vez de memoria al comienzo de la
aplicación
Procesadores de streams
40
IMAGINE: Streaming Memory System
Procesadores de streams
41
IMAGINE: Streaming Memory System
v Todas las referencias a memoria hacen uso de las instrucciones
LOAD y STORE que transfieren una stream completo de memoria
al SRF
- simplifica la programación
- minimiza las paradas de las unidades aritméticas
v El sistema de memoria consiste en:
- dos generadores de direcciones
- cuatro bancos de memoria entrelazados
- dos buffers de reordenación
Procesadores de streams
42
IMAGINE: Streaming Memory System
Genera direcciones
de memoria
Procesadores de streams
43
IMAGINE: Streaming Memory System
Almacena las
referencias a
memoria
Procesadores de streams
44
IMAGINE: Streaming Memory System
Transfiere los datos
al SRF en orden
Procesadores de streams
45
IMAGINE: Interface de red
Procesadores de streams
46
IMAGINE: Interfase de red
v Transfiere streams de un procesador a otro, a través de la red
v Se utiliza en las instrucciones de enviar o recibir (SEND/RECEIVE)
v Dispone de cuatro canales de entrada y cuatro canales de salida
v Cada canal puede transferir 2 bytes cada ciclo de reloj
Procesadores de streams
47
IMAGINE: Procesador
Procesadores de streams
48
IMAGINE: Procesador
v Un procesador externo ejecuta el programa y transfiere las
instrucciones que operan con streams al IMAGINE a través del
controlador interno de streams.
Procesadores de streams
49
IMAGINE: Controlador de streams
Procesadores de streams
50
IMAGINE: Controlador de streams
v Recibe instrucciones del procesador
v Las almacena en una cola de instrucciones pendientes
v Determina qué instrucciones están preparadas para emitir
v Existen unas señales de estado desde las unidades funcionales que determinan
cuando se completa una operación
v Se emiten a las unidades que estén libres, sin violar las dependencias
v Este emisión pueden hacerse fuera de orden
Procesadores de streams
51
Modelo de programación con streams
Los programas en este modelo se especifican en dos niveles
v A nivel de streams
- La secuencia de kernels que forman la aplicación
- Como están conectados esos kernels
- Nombre y tamaño de los streams con los que se opera
v A nivel de kernel
- Especifica las operaciones a realizar con los datos
Procesadores de streams
52
Modelo de programación con streams
Los programas en este modelo se especifican en dos niveles
v A nivel de streams (STREAMC)
- La secuencia de kernels que forman la aplicación
- Como están conectados esos kernels
- Nombre y tamaño de los streams con los que se opera
v A nivel de kernel
- Especifica las operaciones a realizar con los datos
Procesadores de streams
53
Modelo de programación con streams
Los programas en este modelo se especifican en dos niveles
v A nivel de streams (STREAMC)
- La secuencia de kernels que forman la aplicación
- Como están conectados esos kernels
- Nombre y tamaño de los streams con los que se opera
v A nivel de kernel (KERNELC)
- Especifica las operaciones a realizar con los datos
Procesadores de streams
54
void main()
{
stream<int> a(256);
stream<int> b(256);
stream<int> c(512);
stream<int>
cEven = c(0, 512, FIXED, STRIDE, 2)
uc<int> uc_amul = 2;
uc<int> uc_bmul = 3;
...
example1(a, b, cEven, uc_amul, uc_bmul);
...
}
KERNEL example1(
istream<int> a,
istream<int> b,
ostream<int> c,
uc<int> uc_amul,
uc<int> uc_bmul)
{
int amul = ucRead(uc_amul);
int bmul = ucRead(uc_bmul);
Código ejecutado en el procesador (StreamC)
Código ejecutado por un kernel (kernelC)
loop_stream(a) {
int ai, bi, ci;
a >> ai;
b >> bi;
ci = select(ai > 0,
ai * amul,
bi * bmul);
c << ci;
}
}
Procesadores de streams
55
IMAGINE: Implementación
v IMAGINE
está implementado con
un proceso CMOS de 0,15 micras
de Texas Instruments, operando a
500MHz
v El chip mide menos de 16x16mm,
incluyendo los pads
v Necesita 456 pines y 21 millones
de transistores
Procesadores de streams
56
Merrimac
Bill Dally
Universidad de Stanford
Procesadores de streams
57
MERRIMAC: Jerarquía de memoria
Procesadores de streams
58
MERRIMAC: Jerarquía de memoria
Procesadores de streams
59
MERRIMAC
Procesadores de streams
60
MERRIMAC: Clusters aritméticos
Procesadores de streams
61
MERRIMAC
Procesadores de streams
62
Diseño de microprocesadores para multimedia
Procesadores de streams
Pedro Hernández Fernández
Antonio Núñez
8 agosto 2004
Procesadores de streams
63