Sundar Pichai 12 iyul 1972-ci ildə Hindistanın (Chennai) Tamil Nadu əyalətinde iki otaqlı bir evdə dünyaya gəldi. Atası elektrik mühəndisi, anası isə stenoqraf idi. Kharagpur`da Hindistan Teknolonologiya İnstitutun Metallurgiya Mühəndisliyini diplomunu alan Pichai, oxuğuduğu vaxtda dövrünün ən yaxşısı olaraq tanınırdı və Stanford Univesitetinindən magistr üçün burs qazandı. Amma Pichai`yı ABŞ göndərmək üçün kifayət qədər pulu olmadığından və kredit ala bilməyincə atası Regunatha Pichai, topladıqları pulla Sundar`ı ABŞ-a göndərdi. Pichai, Stanford Universitetini bitirə bilmədi amma Pensilvaniya Univesitetindən MBA dərəcsi aldı. Applied Materials və McKinsey & Company şirkətlərində işlədi.
2004-cü ildə Googleda işləməyə başladı. Sundar Pichai, 2010-da Chrome OS və Chromebook-un təqdimatı etdiyi vaxtda 38 yaşında idi. Diqqət mərkəzinə çevrilən Pichai 2011-də Twitter tərəfindən kiçik sərvət təklif edildi amma o, Google-da işləməyi üstün tutdu. 11 il Google-da işlədi.
Hal-hazırda Google-un CEO-su vəzfəsində işləyir. Ailəlidir iki uşağı var.