Elvis Costello i T Bone Burnett su prvi put sarađivali 1985. godine, kada su izdali singl „The People’s Limousine“, koji je bio potpisan kao djelo Coward Brothersa, njihovih izmišljenih alter-ega. Godinu dana kasnije, Burnett je bio koproducent Costellovog nedavno reizdanog klasika King Of America. Bilo je potrebno skoro 40 godina, ali Costello i Burnett su sada snimili čitav album kao Coward Brothers. Costello je takođe napisao komični podcast, koji je režirao Christopher Guest, da prati ovaj projekat.
Costello i Burnett gostovali su kod Stephena Colberta u emisiji Late Show, gdje su dali intervju i izveli jednu pjesmu. U intervjuu je Burnett rekao da Costello, iako nije Amerikanac, zna više o američkoj muzici nego bilo ko drugi koga je ikada upoznao. Takođe su se prisjetili svih godina zajedničkog muziciranja.
Kao Coward Brothers, Costello i Burnett su izveli pjesmu „Always“.