I carlino sono originari della Cina prima di trasferirsi in Europa e in Giappone. Sebbene le origini esatte della razza possano essere un po 'misteriose, è noto che il carlino è presente da circa il 400 a.C.
In Europa e in Giappone, il carlino era un favorito tra i reali. Intorno al 1790, il carlino era diventato popolare anche in Francia. Nel 1886, i carlini neri furono importati in Inghilterra dalla Cina. In realtà, il carlino è stato il primo cane ad essere importato dalla Cina in grandi quantità. Il carlino divenne una razza riconosciuta con l'American Kennel Club nel 1885.