1968年3月1日，索尼與美國哥倫比亞廣播公司（CBS）合資成立CBS索尼（CBS/Sony；成立時名為「CBS索尼唱片」）。此後索尼在日本國內又陸續成立日本史詩唱片、CBS索尼唱片等音樂關聯企業。 1988年1月，在索尼董事長盛田昭夫的主導下，索尼跨海併購CBS旗下的電影與音樂公司，並在同年將旗下日本國內的音樂關聯企業全部併入CBS/Sony。索尼在美國所併購的CBS音樂部門（CBS唱片公司），於1991年更名為索尼音樂娛樂（Sony Music），負責經營索尼在日本以外的全球音樂事業。 1991年4月，CBS/Sony改用現名（索尼音樂娛樂，下稱SME），並於同年11月在東證二部（中小企業板）上市。2000年，SME與索尼交換股權，成為後者的全資子公司，並自東證二部下市。2001年，SME將旗下音樂品牌與音樂製作部門分拆為獨立公司，改以控股公司形式營運。2003年4月1日，SME進行企業重組，公司更名為「株式會社SMEJ」，並同時成立索尼音樂娛樂（SME新公司法人）、索尼文化娛樂（簡稱SCU）兩家子公司；株式會社SMEJ則於同年7月1日併入索尼母公司，使上述兩家公司成為索尼的「親公司」，擁有完整的控制權。2006年12月，索尼文化娛樂併入索尼音樂娛樂。 SME乃木坂大樓 由於股權分開的緣故，索尼音樂的全球體系在2000年後的一系列企業整併，與日本索尼音樂集團沒有直接關係。索尼音樂的全球體系與博德曼音樂（BMG）在2004年11月合併為索尼博德曼時，BMG的日本子公司「BMG Fun House」直屬於全球的索尼博德曼體系，隔年更名為「日本博德曼音樂」（BMG JAPAN）。2008年8月5日，索尼宣布收購博德曼所持有的索尼博德曼50%股權，並於10月1日正式生效，索尼博德曼成為美國索尼的全資子公司，並更名回「索尼音樂娛樂」；日本博德曼音樂撥歸日本索尼音樂集團擁有及管理[1]，之後因公司部門分割重組而在2009年10月解散。 2017年10月，日本索尼音樂宣布成立遊戲發行公司「Unties」，並以此品牌在PlayStation 4、PlayStation VR，甚至任天堂Switch和PC上發行遊戲，發行的作品以獨立遊戲為主[2]。
