Nació el 10 de septiembre de 1964 en Hangzhou, Zhejiang, China.Se crio en el seno de una familia pobre y se educó en las reglas estrictas del marxismo que regía en los colegios de la China comunista.Comenzó a estudiar inglés desde temprana edad y lo practicaba conversando con turistas alojados en el hotel de Hangzhou, a los que ofrecía tours gratis por la ciudad para mejorarlo.
Trató ingresar en la universidad, y tras cuatro intentos, pudo asistir al Hangzhou Teacher’sInstitute, actualmente conocida como Hangzhou Normal University, donde se graduó en 1988 con un BA en inglés. Mientras fue estudiante, se convirtió en líder del consejo estudiantil. Tras graduarse se convirtió en conferenciante de inglés y Comercio Internacional en la Universidad de Hangzhou Dianzi. Posteriormente se matriculó en la Escuela de Negocios Cheung Kong de Beijing (CKGSB), donde se graduó en 2006.Acabó impartiendo clases de inglés y ganando 12 dólares al mes. Solicitó trabajo en 30 empresas y fue rechazado en todas. También lo rechazó la policía, la franquicia Kentucky FriedChicken cuando llegó a su ciudad (de las 24 personas que se presentaron él fue el único que no consiguió el empleo). Además intentó 10 veces ingresar en Harvard sin conseguirlo.
En 1995, solo dos años después de que llegara la conectividad IP a China, fundó China Yellowpages, un portal de páginas amarillas que está considerado como la primera compañía de internet en China.
Fundador en 1999, y Presidente Ejecutivo de AlibabaGroup, un consorcio de negocios de Internet de gran éxito internacional. Eligió el nombre de Alibaba por su facilidad para deletrearse y por su reconocimiento mundial.Su idea de comercio se le ocurrió cuando vivía en Estados Unidos y no consiguió encontrar en internet cerveza Qingdao, y pensó que debería existir una página que vinculara comercialmente al planeta. El primer código fuente de su portal fue creado en su casa por amigos que creyeron en su proyecto. Al inicio se enfocó en el sector B2B (business to business), que revolucionaría la forma de hacer negocios con China. La compañía, que fundó junto con 17 socios (al final quedaron solo dos), gestiona alrededor del 80 % del comercio en línea de China. Entre sus clientes se pueden encontrar desde grandes marcas internacionales hasta pequeñas compañías artesanas.
Fue el primer empresario de la China continental en aparecer en la portada de Forbes y reconocido como el chino más rico del mundo tras la oferta pública de venta (IPO) de AlibabaGroup en la Bolsa de Nueva York. La empresa se convirtió en la oferta pública inicial en bolsa más grande de la historia, por 25.000 millones de dólares, llegando a ser una de las compañías más cotizadas del mundo.
Le gusta leer y escribir relatos de ficción. Juega al póker y practica meditación y taichi. Otro de sus hobbies son las bodas masivas en Alibabá donde se han celebrado ceremonias gigantescas, alguna para casar a 700 parejas.Contrajo matrimonio con Zhang Ying, a la que conoció cuando estudiaban en la Universidad Normal de Hangzhou. Es padre de un hijo y de una hija.