ES EN
ICAD 2026 · 31st International Conference on Auditory Display · 28–31 July 2026
Crossmodal Correspondences Emerging from Painting Sonification
Malevich · silencio · monocromático
Kandinsky · caos máximo · espectro completo
ARGIRA
Jose Ranero García
Argira Station, Barcelona
argira.eus
ORCID 0009-0009-3168-6379
Introducción

Las pinturas se experimentan visualmente. Argira pregunta si su estructura puede experimentarse también mediante el sonido.

El acceso al arte visual sigue siendo una barrera para personas ciegas y con baja visión (VI). Las descripciones verbales ofrecen solo acceso parcial a la estructura visual.

La sonificación — traducir datos en sonido — ofrece una alternativa que preserva propiedades estructurales.

"Una persona ciega puede distinguir un Monet de un Kandinsky — por el sonido." — Argira Research Hypothesis
El Pipeline
1
hue_std — desviación estándar del canal tono (HSV). Mapea a frecuencia fundamental y activa OSC2, incrementando complejidad tímbrica.
2
Dv — dimensión fractal visual vía box-counting. Modula la textura granular.
3
Tempo — suma ponderada de tres contribuciones (cap 15 BPM c/u): variabilidad cromática (hue_std), asimetría compositiva (varianza de luminosidad en 9 zonas) y complejidad fractal (Dv). Base 70 BPM, rango 40–115 BPM.

Salida WAV → espectrograma → Ds (dimensión fractal espectral) vía box-counting sobre STFT log-escalada

Hann 1024-seg · overlap 768 · FFT 2048 · percentil 80 · escalas 4–64

Accesibilidad
Audio espacial — posición estéreo codifica el centro de masa cromático horizontal (cx). Error medio <0.05.
Magnificador temporal — ralentiza a 0.5× para detalle de textura cromática. Correlación r≈0.89 preservada.
Modo sweep — sonido en tiempo real al deslizar sobre la obra.
Tour espacial — descripción zona a zona, horario desde las 12 h.
Ejemplos

Monet · Poppies → tono alto, timbre complejo (802 Hz, OSC2 activo)

Van Gogh · Starry Night → textura densa, baja frecuencia (272 Hz)

Malevich · Black Square → tono simple, silencio

Mapa Perceptual — hue_std vs Ds
← Malevich · monocromático Kandinsky · espectro completo →
N = 74 obras · 32 artistas
permutation p < 0.001
Pasa el cursor sobre un punto para explorar
Clic en un punto para fijarlo · hover para tooltip · color codifica variabilidad cromática
Malevich (monocromático)
Rothko / Newman
Monet / Renoir
Matisse / Kandinsky
0.887 r · N=45
0.923 r · repl. N=74
0.842 R² original N=45
Regresión múltiple (N=45)
hue_std β=0.3265 · t=12.98
Dv β=0.1208 · t=3.24
tempo β=−0.0002 · t=−0.72

R²=0.8417 · p<0.001 · Argira v3.5

Correlaciones
CorrelaciónrNTipo
hue_std → Ds
0.887
45Diseñada
hue_std → Ds (replic.)
0.923
74Replicación
hue_std → Rugosidad
0.687
30Emergente
hue_std → Rug. (−outlier)
0.790
29Emergente
local_contrast → freq_hz
0.949
74Estructural
edge_density → effort
0.759
74Estructural
Test perceptual piloto
5/5
N=5 participantes · edades 22–78 · variado bagaje musical/artístico
Nivel 0 — Discriminación: todos distinguieron dos obras sonificadas.
Discusión

Argira captura estructura de pinturas que es matemáticamente medible y perceptualmente significativa, sin reglas perceptuales explícitas.

El efecto de supresión de Dv revela que la complejidad fractal visual contribuye a la auditiva independientemente del color — espejando hallazgos en correspondencias crossmodales.

6.4 Cierre de ciclo (N=74)
Capa A
Posición estéreo preserva centro de masa cromático. Error <0.05 (verificado).
Capa B
local_contrast→freq_hz r=0.949; edge_density→effort r=0.759 p<10⁻¹⁴ (fuerte).
Capa C
Inversión directa no factible — elección de diseño, no imposibilidad teórica (límite).
Post-Review Extensions (6)
6.1 Anti-Circularidad (N=30)

Pipeline independiente (sawtooth bandlimitado, sin métricas fractales) confirma hue_std → rugosidad espectral emergente: r=0.687 (r=0.790 excl. Malevich). Consecuencia física de superposición armónica. Replicado en 4 tipos de onda. Control pixel-shuffle (EXP-2) confirma propiedad del histograma global.

6.2 Expansión del corpus (N=74, 32 artistas)

Correlación núcleo r=0.923 (R²=0.852, permutación p<0.001, N=1000). Totalmente consistente con resultado original (r=0.887, N=45). No es artefacto de selección inicial del corpus.

6.3 Modelo A = f(hue_std, sat_mean, grad_mean)

Dos imágenes con hue_std=0.500 idéntico pero saturación opuesta → perfiles acústicos completamente distintos (6 vs 13 armónicos emergentes). Ondas sinusoidales puras reducen r de 0.887 a 0.44.

6.5 VAAM — Matriz Visual-Acústica (N=117)

Matriz sistemática S=(|r|+|ρ|)/2 y δ=|ρ|−|r| entre 8 descriptores visuales y 7 dimensiones acústicas. Familia cromática (hue_std, hue_entropy_bits) → frecuencia; familia estructural (edge_density, luminance_contrast) → textura y tiempo. hue_std y hue_entropy_bits son no-redundantes. fractal_D: resultado nulo honesto (S máx ≈ 0.27). Rugosidad concentra la no-linealidad. Distinción clave: estructura impuesta por operador (S≈1.000) vs propiedades emergentes del corpus.

6.6 Implementación interactiva en museo

Argira Campo Perceptual (v11): campo continuo navegable en cualquier navegador. 74 obras en espacio 2D (variedad cromática × complejidad visual) con kernel Gaussiano (σ=0.18, k=7). Diseñado con feedback de usuario ciego (Felix).

Trabajo futuro
Expandir test perceptual a participantes VI — ABX formal + análisis de potencia estadística.
Condición de comparación con mapeos aleatorios.
App móvil para sonificación in-situ en museos.
Instalación de sonificación y exposición accesible completa.
Campo Perceptual en vivo ↗ argira.eus/argira-sonification/ ↗
Datos & código

CC BY-NC 4.0 · Zenodo
10.5281/zenodo.18865019

Datasets, código fuente, análisis estadísticos y experimentos extendidos disponibles públicamente.

Poster interactivo
Versión mobile
con tabs
Campo Perceptual
Demo en vivo
argira.eus
Referencias

[1] Ramachandran & Hubbard — Synaesthesia (2001)

[2] Iosifyan et al. — Paintings & Music (2022)

[3] Spence — Crossmodal correspondences (2011)

[7] Taylor et al. — Fractal analysis of Pollock (1999)