[SCIA2023] Transformers & SCIA