Mark Knopfler nació en Glasgow, se mudó con su familia a Newcastle a mediados de los 50. Aprendió a tocar la guitarra cuando era un adolescente. En 1966, con tan sólo 16 años, debutó en televisión cantando la canción "Chilly Winds" con Sue Hercombe. Incluso llegó a grabar una maqueta llamada "Summer's Coming Our Way" (que no se conserva). Tras completar su educación de literatura inglesa, se trasladó a Leeds a comienzo de los 70. Trabajaba para los periódicos Yorkshire Evening Post y el Loughton College. En esta época es cuando conoció a Steve Phillips con el que entabló amistad y grabó varias canciones de country que no verían la luz hasta 1996 cuando Steve Phillips publicara el álbum Just Pickin' con una serie de canciones grabadas entre finales de los 60 y mediados de los 70 con distintos músicos. Steve y Mark volverían a encontrarse en sus carreras musicales con la formación del grupo Notting Hillbillies.
Mark se trasladó a Londres con su hermano, David Knopfler. Mark pasó a formar parte de un grupo llamado Brewer's Droop que había publicado ya un álbum Opening Time. En 1973, grabaron su segundo álbum, Booze Brothers, producido por Dave Edmunds de Rockpile. Sin embargo, por diversos problemas, el álbum no fue publicado hasta 1989. Durante la grabación, Mark conoció al batería del grupo, Pick Whiters.
Una vez disuelto el grupo "Brewer's Droop", Mark volvió a la rutina viviendo con su hermano. En 1977, durante una fiesta, Mark conoció a John Illsley, que tocaba el bajo. Fue entonces cuando decidieron formar un grupo: Mark, su hermano David, John y el antiguo batería de "Brewer's Broop", Pick Withers. En un comienzo, el nombre de la banda fue "Cafe Racers". Interpretaban su repertorio (principalmente compuesto por Mark, aunque con canciones de David y versiones de otros músicos) en los pubs de Londres, como otras muchas bandas británicas del momento (lo que acabó conociéndose como Pub rock). Finalmente, fue Pick el que propuso cambiar el nombre a Dire Straits (que en inglés viene a significar "malos momentos") debido a la penosa situación económica que vivían en aquellos días.
En 1978, consiguen publicar su primer álbum, titulado simplemente Dire Straits. Generó el éxito Sultans of Swing. Tras ese álbum, continuaron publicando discos a medida que el personal de la banda iba cambiando. David y Mark se enfrentaron por el protagonismo que tenía este último dento de la banda. Durante los 80, la banda evolucionó musicalmente hacia una mayor complejidad mientas que se convertía en un conjunto de músicos más variado y más grande. En 1985, tan sólo John y Mark continuaban en la banda. Fue entonces cuando publicaron Brothers In Arms, un éxito sin precedentes que les lanzó definitivamente. Artistas de la talla de Sting y Eric Clapton colaboraron con la banda en ésta época.
Tras una etapa de silencio a finales de los 80, Dire Straits volvió comienzos de los 90 con el que sería su último álbum, con una clara influencia country. No consiguió las mismas ventas que "Brothers in Arms" y tuvo críticas polarizadas. Finalmente, en 1995 la banda se disolvió.
Knopfler se había ganado una cierta reputación como músico de estudio. En 1979 Bob Dylan le llamó para las sesiones de Slow Train Coming, que incluye la conocida "Man Gave Names To All The Animals". Dylan había escuchado el single de "Sultans of Swing" y le había contactado el 29 de marzo tras un concierto en Los Ángeles. Para la grabación en Alabama, Knopfler recomendó a Pick Withers, baterista de Dire Straits.
En 1983, mientras tocaba con Dire Straits, Knopfler compuso la primera de una larga serie de bandas sonoras, "Local Hero", en la que colaboraron la mayoría de sus compañeros. A Guy Fletcher, teclista que se incorporó a la formación poco después, lo conocieron en 1984, durante la grabación de una de estas bandas sonoras. Fletcher seguiría colaborando con Knopfler en su carrera en solitario y en otras bandas sonoras como la de Last Exit To Brooklyn (1989): su trabajo más ambicioso como compositor. El estilo de Knopfler en sus bandas sonoras se acerca en general al sonido llamado celta ("Local Hero", "Cal", "A Shot At Glory") aunque también se pueden encontrar ejemplos de otros estilos como el country ("La Cortina de Humo"). En 1993, se publicó Screenplaying; una recopilación de los mejores temas de algunas de sus bandas sonoras.
En la etapa de silencio de Dire Straits a finales de los 80, Mark se encontraba saturado del esfuerzo que había supuesto la gira mundial del álbum "Brothers in Arms". Además, el estilo musical de la banda, le impedía publicar canciones más personales de estilos más minoritarios como el country o el blues. Por ello, en esos años en los que Dire Straits no publicaba nada, Mark aprovechó para publicar un disco con el guitarrista de country Chet Atkins en 1990 (más adelante, en el año 2006, volvería a publicar un álbum de country en colaboración con otro músico, la cantante Emmylou Harris). En 1988 vuelve a colaborar con Bob Dylan en Down in the Groove, en el que coincide con otros grandes, como Clapton. Con Steve Phillips, Brendan Crocker y Guy Fletcher agrupó la banda Notting Hillbillies, que publicó un sólo álbum de estudio, aunque se han reúnido con frecuencia para hacer giras a lo largo de los 1990.
A mediados de los 90, Mark se sentía cada vez menos libre como músico dentro de Dire Straits. Este sentimiento junto con el hecho de que el último álbum de la banda había tenido un recibimiento tibio, hicieron que Mark decidiera lanzar una carrera en solitario plena tras la disolución de Dire Straits. En 1996, Golden heart vio la luz. En él, encontramos una serie de canciones que continúan el estilo de los últimos álbums de Dire Straits; pero al mismo tiempo encontramos otras canciones impensables en un álbum de pop-rock al uso como Dire Straits solía publicar. En este álbum comenzó a tocar con una serie de colaboradores que serían denominados por el propio Knopfler como "The 96ers" (que viene a significar algo así como "los del 96") y con los que seguiría colaborando en adelante. Digno de mención es la colaboración de los intérpretes de música celta del grupo The Chieftains.
Alejándose progresivamente del estilo que había seguido en los 80, Knopfler publicó Sailing to Philadelphia en el año 2000; con un estilo principalmente de blues. En él colaboraban músicos como Van Morrison, James Taylor o el dúo de Squeeze. Más tarde, llegó The Ragpicker's Dream en 2002 con un estilo folk.
En 2003, Mark Knopfler sufrió un accidente de moto en Londres que le obligó a cancelar su gira mundial. A finales de 2004, publicó el álbum Shangri-La, grabado en el estudio Shangri-La en Malibu; donde grabaron grupos como The Band.
En 2006, Mark Knopfler junto a Emmylou Harris publican el álbum "All the Roadrunning",en el que se recogía colaboraciones entre los dos músicos entre los años 2000 y 2006. El lanzamiento vino acompañado por conciertos en Europa y America durante el año 2006; que dieron lugar al álbum en directo y DVD "Real Live Roadrunning".
El 10 de septiembre de 2007, salió el que hasta la fecha es el último álbum de Mark Knopfler,"Kill to get crimson", en el cual se cuentan las colaboraciones del ex-Dire Straits, Chris White en el saxo tenor, Guy Fletcher en los teclados y Danny Cummings en la percusión. Para este nuevo álbum, Knopfler rompió con la que venía siendo formación habitual de su banda desde mediados de los 80 (dos guitarristas, dos teclados, un bajo y una batería) para pasar a una banda mucho más pequeña (una guitarra, un teclado, un bajo y una batería). Con ello, buscaba alcanzar el estilo musical de las canciones de los años 60.
Mark Knopfler tiene dos hijos gemelos (Benji y Joseph, de su segundo matrimonio), y dos hijas, Isabella y Katya Ruby Rose (del actual); tiene un título en literatura inglesa de la universidad de Leeds, la universidad de Newcastle le ha concedido un título honorífico en música