Rumania participó por primera vez en los Juegos Olímpicos en 1900, con un solo participante. El Comité Olímpico Nacional de Rumanía fue creado y reconocido en 1914. Cabe destacar que Rumanía fue el único país del Bloque del Este en participar en los Juegos Olímpicos de Verano de 1984, que boicotearon las otras naciones. Ese fue también el más exitoso de sus Juegos Olímpicos: ganaron 20 medallas de oro y 53 medallas en total.

Los atletas rumanos han ganado un total de 293 medallas, con la gimnasia como la más productora de medallas. Rumania ocupa el segundo con el mayor número total de medallas (después de Hungría) de las naciones que nunca han sido sede de los Juegos Olímpicos.