Il video di “The Heart’s Filthy Lesson” è diretto da Samuel Bayer, già autore del celebre video del brano Smells Like Teen Spirit dei Nirvana, e ambientato in un inquietante atelier artistico. Le immagini, virate in seppia, comprendono mutilazioni e sanguinosi “oggetti d’arte” tanto che venne censurato per il passaggio su MTV che rifiutò di trasmettere l’edizione originale del videoclip. In interviste dell’epoca, Bowie commentò il concetto di “arte rituale” presente in Outside:
«Forse il concetto di base del materiale presente in Outside e dell’imminente nuovo millennio è questo nuovo “paganesimo”, questa ricerca di una nuova spiritualità che assilla molti di noi. Perché avendo ormai da tempo demolito l’idea di “Dio” grazie al “triumvirato” di inizio secolo costituito da Nietzsche, Einstein, e Freud, abbiamo demolito tutto quello in cui credevamo. La teoria della relatività, l’affermazione “Dio è morto”, il nostro “Io” che è fatto di diverse personalità… Wow, ma dove cazzo siamo finiti? […] Mi chiedo se abbiamo realizzato che l’unica cosa che siamo stati in grado di creare di simile a “Dio” è stata la bomba all’idrogeno, questa nostra unica capacità di creare disastri, ha portato alcune persone a ricercare una nuova vita spirituale in comunione con la natura. Ma oggi esiste anche questo positivismo che era del tutto assente alla fine dello scorso secolo. L’album ha una sorta di percezione di questo nuovo paganesimo che sembra scatenarsi con l’avvento di atti di autolesionismo quali scarnificazioni, piercing, tatuaggi tribali e quant’altro».