I årene 1977-83 eksperimenterede Yunus med bankvirksomhed for de fattigste kvinder. Han fik tilladelse til at etablere sin egen afdeling i syv forskellige banker. Dette medførte dog ikke en tilfredsstillende løsning. Den 2. oktober 1983 åbnede Yunus en selvstændig bank, Grameen Bank, der skulle drives efter hans egne principper. "Grameen" betyder "for landsbyen".

Alle Grameen Bank-låntagere skal tilhøre en gruppe med fem medlemmer, som skal hjælpe og støtte hinanden, når der opstår problemer. Medlemmerne har dog ikke noget gruppeansvar. De skal ikke være garanter for, at de andres lån bliver tilbagebetalt. Inden en kvinde kan blive låntager, skal hun gennemgå syv dages undervisning, som afsluttes med en mundtlig optagelsesprøve, hvor hun skal vise, at hun forstår bankens filosofi og udlånsprincipper. Hun skal også lære nogle slagord udenad − i dag i alt 16 − som hun skal forsøge at leve op til. Disse slagord stimulerer bl.a. initiativer, der bekæmper uretfærdighed, og som kan forbedre svagheder ved det nuværende samfundssystem. Nogle af slagordene går ud på, at familierne skal være "mindre" end sædvanligt, at traditionen med "medgift" helt skal standses, at arrangerede barneægteskaber ikke må finde sted, at påføre andre uretfærdighed skal undgås, og at man altid skal vise villighed til at hjælpe hinanden.

Yunus mødte hele vejen modstand fra det traditionelle bankvæsen, som på mange måder er blevet en levende fossil. Det ser i dag ud som om de ordinære bankers virksomhed udelukkende går ud på at tjene flest mulige penge i kraft af mindst muligt arbejde − og indsatsen skal helst være begrænset til standardiserede og traditionelle rutiner. Grameen Bank tog udgangspunkt i de fattiges behov og livssituation og tilpassede bankens virksomhed og procedurer derefter.