Creció en la Alemania de la posguerra, con muchas privaciones hasta que llegó el milagro económico Alemán. Estudió técnica textil en la escuela de ingeniería de Krefeld. Se fue de intercambio de estudiante a California (1963-64), después se desplazó a Nueva York para trabajar como redactora en una revista de moda. En 1965 volvió a Hamburgo trabajando como redactora de moda en las revistas Constance y Petra.

Creó su propia tienda en el barrio de Pösedorf (Hamburgo), la pintó blanco nieve por dentro y negro por fuera con el nombre de Jill Sander. Vendió su colección en una semana e importó moda francesa que era algo muy novedoso en Alemania. Solo había la confección burguesa en comercios anónimos.

Quería vestir a las mujeres seguras de sí mismas, utilizaba los tejidos más caros y los cortes más precisos, esto solo los había dentro del vestuario masculino. Realizó su primera línea de trajes pantalón, con ello liberó a las mujeres, ganaron en comodidad y fueron tomadas en serio. Sus camisas blancas sentaban a la perfección con la elasticidad justa.

Desfiló por primera vez en París en 1977, fue un fracaso. Volvió a desfilar en Milán en 1988 con mucho éxito. Hasta los noventa no se comprendió del todo el estilo de Jil Sander. En 1993 abrió su exitosa tienda en París en la Avenue Montaigne, en la antigua tienda de Madeleine Vionnet. Declaraba "un vestido es perfecto cuando ya no se le puede quitar nada más". En Estados Unidos la llamaban "Queen of less". Utilizaba mucho los tejidos de cachemira y lana, procesadas para que pareciera fieltro o mezclados para que no parecieran tan nobles.

Harta de que solo se la valorara por su calidad comenzó a crear colecciones más artísticas. Se atrevió con pequeños drapeados, líneas suaves, variedad y más riesgo con más vestidos. No quiso dar su nombre a numerosas licencias y a segundas o terceras líneas como otros diseñadores.

En 1999, tras el inesperado éxito mundial de la firma, Jil Sander decide vender el 75% de su marca al Grupo Prada, con el objetivo de ampliar su gama de calzado y accesorios. Una decisión que no resultó del todo acertada ya que, por diferentes desavenencias con la casa italiana, Jil Sander cedía la dirección creativa de su propia marca en el año 2000. Sin embargo, en 2003, la diseñadora volvía de nuevo a Prada para realizar una nueva colección -esta vez, menos marcada por el minimalismo-, pero en 2004 dejaba de nuevo el puesto de directora creativa de la marca, que pasaba a manos de Raf Simons.