A segunda geração de iPod shuffle foi anunciada em 12 de setembro de 2006. Estava previsto para outubro do mesmo ano, mas acabou por ser lançado em 3 de novembro. A nova geração conta apenas com a versão de 1GB. Entre as mudanças no modelo estão o tamanho reduzido de 8,4 cm x 2,5 cm x 0,84 cm para 41,22 mm x 27,3 mm x 10,5 mm, que torna o shuffle o menor player do mundo.[3] É revestido por alumínio prateado escovado assim como a segunda geração de iPod nano. Entre as novidades também está um grampo que permite prender o iPod shuffle à roupa. O interruptor que desempenhava a função de desligar e alterar a forma como as músicas são tocadas foi separado para evitar acidentes durante a escolha entre "Em ordem" e "Aleatório". O formato do novo iPod shuffle é FAT 32, novo para a Apple, que trabalhava com disco reformatável para Macintosh ou PC. É capaz de reproduzir todos os formatos de áudio suportados pelo iTunes, com exceção do Apple Lossless.