A rómaiak i. e. 225-ben jelentek meg először Mediolanum környékén, majd Gnaeus Cornelius Scipio Calvo és Marcus Claudius Marcellus vezetésével i. e. 222-ben el is foglalták. A rómaiak terjeszkedésének fő akadálya Hannibál volt, aki karthágói seregeinek élén i. e. 218-ban átkelt az Alpokon, és a Ticino folyó mellett fényes győzelmet aratott. A második pun háború azonban a rómaiak győzelmével ért véget, így i. e. 201-ben sikerült ellenőrzésük alá vonniuk Gallia Cisalpinát (az Alpokon inneni Galliát), és az őslakos keltákat pedig lassanként beolvasztották saját népükbe. A romanizálódás i. e. 88-tól kezdve, Julius Caesar uralkodása alatt vált intenzívvé, amikor Mediolanum és a szomszédos észak-itáliai települések, Brixia (Brescia), Bergomum (Bergamo) és Comum (Como) is római coloniákká váltak (Lex Pompeia de Gallia Citeriore).

Julius Caesar gall háborúinak idején (i. e. 58 – i. e. 50) Mediolanum stratégiai fontosságú állomás volt, ennek köszönhetően a város gazdasági élete is fellendült. I. e. 49-ben municipium civium romanorum rangot kapott.

Mivel a provincia a Római Birodalom határvidékén feküdt, területére többször is betörtek kimber és teuton törzsek, így 102-ben is, azonban a város sikerrel ellenállt az ostromnak. 260-ban Gallienus császár seregei egy nagy alemann sereget vertek vissza Mediolanum falai alól. Aurelianus császár közigazgatási reformjainak életbelépése után Aemilia et Liguria provincia székhelye lett, ugyanakkor a városban székelt az a császári megbízott, aki a birodalom nyugati határainak védelméért volt a felelős. Ebben az időszakban számos nagyszabású építkezés zajlott a városban, többek között ekkor épült fel a 155×125 m-es, ellipszis alakú amfiteátrum, melynek ma csak a romjai láthatók.

Miután Diocletianus felosztotta a birodalmat, Mediolanum lett a Nyugat-római birodalom székhelye. Ebben az időszakban épült fel a város második védvonala, melynek romjai (elsősorban kapui) napjainkban is láthatók. A nyugatrómai császár, Maximianus, számos új épületet emeltetett a városban: termákat, színházakat stb.

Itt adta ki 313-ban Nagy Konstantin az úgynevezett milánói ediktumot, ami a keresztény vallás elismerését jelentette. 375-ben Ambrosius (Szent Ambrus) lett Mediolanum püspöke, ő alatta vált a város a keresztény világ egyik legjelentősebb püspöki székhelyévé. Halála után (397) Mediolanum megőrizte hírnevét, többek között Szent Ágoston tevékenységének köszönhetően, akit 387-ben itt kereszteltek meg, és aki vallásfilozófiai műveiben nem egyszer kitért a város pompájára.