Sony didirikan pada 7 Mei 1946 dengan nama Perusahaan Telekomunikasi Tokyo dengan sekitar 20 karyawan. Produk konsumen mereka yang pertama adalah sebuah penanak nasi pada akhir 1940-an. Seiring dengan berkembangnya Sony sebagai perusahaan internasional yang besar, ia membeli perusahaan lain yang mempunyai sejarah yang lebih lama termasuk Columbia Records (perusahaan rekaman tertua yang masih ada, didirikan pada tahun 1888).
Ketika Tokyo Tsushin Kogyo sedang mencari nama yang sudah diromanisasi (bukan dalam bahasa maupun tulisan Jepang) untuk memasarkan perusahaan mereka, mereka mempertimbangkan dengan kuat untuk menggunakan singkatan mereka, TTK. Alasan mereka tidak memilihnya adalah karena ada perusahaan kereta api Tokyo Kyuko yang saat itu dikenal sebagai TKK.
Nama "Sony" dipilih sebagai gabungan kata Latin sonus, yang merupakan akar dari sonik dan bunyi, dan kata Inggris sonny ("anak kecil") yang setelah dikombinasikan berarti sekelompok kecil anak muda yang memiliki energi dan kemauan keras terhadap kreasi dan inovasi ide yang tak terbataskan. Pada saat itu, sangatlah aneh bagi sebuah perusahaan Jepang untuk menggunakan huruf Roman untuk mengeja namanya, apalagi penggunaan aksara fonetis yang digunakan dalam penulisan bahasa Jepang (daripada menggunakan aksara Tionghoa). Dan pada 1958 perusahaan mulai secara formal mengadopsi nama " Sony Corporation " sebagai nama perusahaan. Mudah digunakan dan mudah dieja dalam segala bahasa dunia. Nama Sony menggaungkan semangat kebebasan dan keterbukaan dalam inovasi.
Langkah ini mendapatkan tentangan; bank yang merupakan sponsor TTK saat itu, Mitsui mempunyai perasaan yang kuat terhadap nama tersebut. Mereka menginginkan nama seperti Sony Electronic Industries, atau Sony Teletech. Tetapi pendirian Akio Morita tetap teguh, karena dia tidak ingin nama perusahaannya terkait dengan industri apapun juga. Akhirnya, sang Ketua Bandai dan Presiden Masaru Ibuka memberikan persetujuannya.
Pada 1988, Sony membeli CBS (Columbia) Records Group dari CBS. Ia kemudian dinamakan "Sony Music Entertainment".
Pada 2000, Sony mempunyai penjualan sebesar US$63 milyar dan 189.700 karyawan. Sony mengakuisisi perusahaan Aiwa pada 2002.
Sony juga memiliki saluran televisi di India dan saluran-saluran yang ditujukan untuk komunitas India di Eropa.