Acho que descobri o "Mistério" do Protected Mode.

Softpedia disse:
"IE7 includes a special feature called Protected Mode where the IE process runs with low privileges. This helps IE significantly reduce the ability of an attack to write, alter or destroy data on the user's machine or to install malicious code. These defenses also limit legitimate actions like saving browser settings, which is why Protected Mode includes broker processes to handle IE’s elevated actions. Similarly, yesterday’s Flash update includes a broker process to handle Flash’s specific elevated actions"
Pelo que está escrito o Protected Mode não foi desabilitado, na verdade o IE7 permite que funções de alto nível sejam executadas no sistema através de um Broker.

Então devem ter descoberto um bug no Flash que abria a possibilidade de interagir com o SO, e através desse Broker entraram no sistema.

Então usaram um bug do Flash em conjunto com uma funcionalidade normal do Vista.

yawara.br além da tecnologia.