Il nome della città viene fatto risalire alla fase di romanizzazione del territorio, quando la centuriazione giungeva a sud del colle, che sembra fosse allora spesso isolato a causa di una zona acquitrinosa prodotta dalle divagazioni fluviali del Crevada e del Monticano. Però la vera e propria sedentarizzazione agricola di coloni romani sembra sia venuta in seguito alle succitate orde barbariche; di conseguenza i coloni hanno qualificato i siti di proprietà, consegnando alla memoria storica alcuni toponimi prediali (che derivano dal nome del proprietario del fondo) tra cui appunto Conegliano, probabile derivazione da un certo "Connius" o "Cumelius", donde Connianus o Cumelianus.

Esiste però un'altra versione sulla derivazione del nome della città che viene fatto risalire alla funzione di difesa militare assunta sin dalle origini dal colle, ovvero da "cuniculus""Cuniculanus".

Sicuramente più suggestiva e ammantata dall'evocazione di un'età mitica è la leggenda della fondazione della città in cui si racconta che Giano, profugo da Troia sulle lagune venete, attratto dalla dolcezza delle colline tra il fiume Piave e il Livenza, tra il mare Adriatico e le Alpi, scelse il più ameno colle quale luogo per la costruzione della sua abitazione che chiamò Colle-iano.