英国統治下にあったバングラデシュの南部チッタゴンの宝石店の二男として生まれる。チッタゴンカレッジを経て、ダッカ大学で修士号を取得。フルブライト奨学金を得て渡米し、1969年にヴァンダービルト大学で経済学の博士号を取得した。
テネシー州で同郷の友人とともに「バングラデシュ市民委員会」を組織、祖国の独立を支援した。 1969年から1972年までミドルテネシー州立大学で経済学の助教授を務める。その後、バングラデシュ独立の翌年の1972年に帰国し、チッタゴン大学経済学部長に就任した。
１９７４年の大飢饉後に貧しい人々の窮状を目の当たりにして以来、その救済活動に目覚め、1976年に貧困救済プロジェクトをジョブラ村にて開始、銀行へ融資を働きかけ自ら村民の保証人になったが、銀行の融資は受けられず、1983年にグラミン銀行を創設。
同プロジェクトはバングラデシュ政府の法律により独立銀行（政府認可の特殊銀行）となる。無担保で少額の資金を貸し出すマイクロ・クレジット（無担保小額融資）で農村部の貧しい人々の自立を支援する手法を全国で展開し、同国の貧困軽減に大きく貢献した。これが多くの国際機関やNGOなどの支援活動の模範となり、現在では全世界で一億人以上がマイクロクレジットの恩恵をうけているといわれている。
こうした貧困層の自立支援活動の結果、ノーベル平和賞（２００６年）、アジアのノーベル賞といわれるマグサイサイ賞（１９８４年）をはじめとしてこれまで９３の賞を受賞した。
マイクロ・クレジットは貧困対策の新方策として国際的に注目され、主に第三世界へ広がっている。 グラミン銀行は多分野で事業を展開し、「グラミン・ファミリー」と呼ばれるグループへと成長をとげた。
