ARGIRA
ICAD 2026 · 31st International Conference on Auditory Display
Crossmodal Correspondences Emerging from Painting Sonification
Jose Ranero García · Argira Station, Barcelona
argira.eus
Malevich · silencio
─────────────────→
Kandinsky · caos
"Una persona ciega puede distinguir un Monet de un Kandinsky — por el sonido." — Argira Research Hypothesis
Introducción

Las pinturas se experimentan visualmente. Argira pregunta si su estructura puede experimentarse también mediante el sonido.

El acceso al arte visual sigue siendo una barrera para personas ciegas y con baja visión. Las descripciones verbales dan acceso solo parcial. La sonificación ofrece una alternativa que preserva la estructura.

0.923 r · repl. hue→Ds
0.852 R² varianza
74 obras · N
El Pipeline
1
hue_std — desviación estándar del canal de tono (HSV). Mapea a frecuencia fundamental y activa OSC2, aumentando la complejidad tímbrica.
2
Dv — dimensión fractal visual vía box-counting. Modula la textura granular.
3
Tempo — suma ponderada de tres contribuciones (cap 15 BPM c/u): variabilidad cromática (hue_std), asimetría compositiva (varianza de luminosidad en 9 zonas) y complejidad fractal (Dv). Base 70 BPM, rango 40–115 BPM.
Análisis espectral

El espectrograma WAV de salida se analiza para extraer la dimensión fractal espectral (Ds) mediante box-counting sobre STFT log-escalada.

Hann 1024-seg · overlap 768 · FFT 2048 · percentil 80 · escalas 4–64

Accesibilidad
Audio espacial — posición estéreo codifica el centro de masa cromático horizontal (cx). Error medio <0.05.
Magnificador temporal — ralentiza a 0.5× para percibir textura cromática en detalle. Correlación r≈0.89 preservada a cualquier velocidad.
Modo sweep — el sonido evoluciona en tiempo real al deslizar el dedo sobre la obra.
Tour espacial — descripción zona a zona, en sentido horario desde las 12 h.

Monet's Poppies → tono alto, timbre complejo (802 Hz, doble oscilador)

Van Gogh's Starry Night → textura densa, baja frecuencia (272 Hz, alta modulación granular)

Malevich → tono simple, silencioso

Malevich · silencio
Kandinsky · caos →
Toca cualquier zona — selecciona el punto más cercano (74 obras)
Ejes del mapa

X — hue_std: variabilidad cromática. Izquierda = monocromático, Derecha = espectro completo.

Y — Ds: dimensión fractal espectral del sonido generado. Arriba = más complejo.

El color de cada punto codifica su posición en X: azul → cian → verde → ámbar.

Abrir Campo Perceptual en vivo
0.887 r original N=45
0.923 r replicado N=74
0.852 R² replicado
Regresión múltiple (N=45)

Ds ~ hue_std + Dv + tempo

β(hue_std) = 0.3265 · t = 12.981
β(Dv) = 0.1208 · t = 3.236
β(tempo) = −0.0002 · t = −0.721
R² = 0.8417 · p < 0.001

Tabla de correlaciones
CorrelaciónrNTipo
hue_std → Ds0.88745Diseñada
hue_std → Ds (replic.)0.92374Replicación
hue_std → Rugosidad0.68730Emergente
hue_std → Rug. (sin outlier)0.79029Emergente
local_contrast → freq_hz0.94974Estructural
edge_density → effort0.75974Estructural
Test perceptual piloto
5/5
N=5 participantes · edades 22–78
Nivel 0 — Discriminación: todos distinguieron dos obras sonificadas.

Pinturas de paleta oscura → asociadas espontáneamente con colores oscuros. Pinturas cálidas → con tonos claros. Sin importar el bagaje musical.
Discusión

Argira captura estructura de pinturas que es matemáticamente medible y perceptualmente significativa, sin reglas perceptuales explícitas.

El efecto de supresión de Dv revela que la complejidad fractal visual contribuye a la auditiva independientemente del color — espejando hallazgos en correspondencias crossmodales.

Post-Review Extensions
6.1 Anti-Circularidad (N=30)

Pipeline independiente (sawtooth bandlimitado, sin métricas fractales) confirma que hue_std predice rugosidad espectral emergente: r=0.687 (r=0.790 excl. Malevich). Consecuencia física de la superposición armónica, no del diseño del algoritmo. Replicado en 4 tipos de onda.

6.2 Expansión del corpus (N=74, 32 artistas)

Correlación núcleo r=0.923 (R²=0.852, permutación p<0.001, N=1000). Totalmente consistente con resultado original (r=0.887, N=45). No es artefacto de selección inicial.

6.3 Modelo extendido A = f(hue_std, sat_mean, grad_mean)

Dos imágenes con hue_std=0.500 idéntico pero saturación opuesta producen perfiles acústicos completamente distintos (6 vs 13 armónicos emergentes). La superposición armónica es el mecanismo generativo crítico. Ondas sinusoidales puras reducen r de 0.887 a 0.44.

6.4 Cierre de ciclo — Preservación estructural (N=74)

Capa A (verificada): posición estéreo preserva centro de masa cromático, error <0.05.
Capa B (fuerte): local_contrast→sonic_freq_hz r=0.949; edge_density→effort r=0.759 (p<10⁻¹⁴).
Capa C (límite): inversión directa no factible actualmente — elección de diseño, no imposibilidad teórica.

6.5 VAAM — Matriz Visual-Acústica (N=117)

Matriz sistemática de asociaciones entre 8 descriptores visuales y 7 dimensiones acústicas en 117 pinturas. Para cada par se calculan S = (|r|+|ρ|)/2 (fuerza de asociación) y δ = |ρ|−|r| (índice de no-linealidad).

4 hallazgos principales:

Dos familias independientes — cromática (hue_std, hue_entropy_bits) → frecuencia; estructural (edge_density, luminance_contrast) → textura y tiempo.

hue_std y hue_entropy_bits no son redundantes — predicen targets acústicos distintos independientemente.

fractal_D: resultado nulo honesto — poder predictivo mínimo (S máx ≈ 0.27). Reportado explícitamente.

Rugosidad concentra la no-linealidad — efectos de interacción no capturados por modelos lineales.

Distinción clave: estructura impuesta por el operador (S≈1.000 en hue_std→odd_bias y luminance_contrast→decay_s) vs propiedades emergentes del corpus. Esa distinción es la contribución metodológica central.

6.6 Implementación interactiva en museo

Argira Campo Perceptual (v11): campo perceptual continuo navegable en cualquier navegador. 74 obras organizadas en espacio 2D (variedad cromática × complejidad visual) con kernel Gaussiano (σ=0.18, k=7). Diseñado a partir de feedback de un usuario ciego (Felix).

Trabajo futuro
Expandir test perceptual a participantes con baja visión — ABX formal + análisis de potencia estadística.
Condición de comparación con mapeos aleatorios.
App móvil para sonificación in-situ en museos.
Instalación de sonificación y exposición accesible completa.
Campo Perceptual en vivo

74 obras organizadas en espacio bidimensional. El sonido evoluciona continuamente con el movimiento del cursor o toque — sin categorías discretas ni transiciones abruptas.

Abrir Campo Perceptual ↗ argira.eus/argira-sonification/ ↗
Datos & código

CC BY-NC 4.0 · Zenodo
10.5281/zenodo.18865019

Datasets, código fuente, análisis estadísticos y experimentos extendidos disponibles públicamente.

Referencias clave

[1] Ramachandran & Hubbard — Synaesthesia (2001)

[2] Iosifyan et al. — Paintings & Music (2022)

[3] Spence — Crossmodal correspondences (2011)

[7] Taylor et al. — Fractal analysis of Pollock (1999)

ICAD 2026 · Jose Ranero García · CC BY-NC 4.0
ES EN
Ver en Campo Perceptual →