Man gräver och rensar. Och rensar och gräver. Ja, och så gräver man och rensar förstås.
Det finns dock andra sätt: Jag antar att du har fleråriga ogräs som kvickrot och annat skoj.

Där hjälper det till en viss del med marktäckning. Har man rejäla problem så kan man täcka marken
minst ett år med svart plast eller något annat ljustätt, helst med en extra remsa på nån meter eller så, där man sedan kan göra en gång runt landet. Sen har en hel del ogräs dött, men man får ändå gräva igenom och plocka bort rötter. Och sedan hålla rent runt kanterna så att inte nytt ogräs kryper in i landet igen.
Eller man kan göra lasagnebäddar (googla!) där man bygger upp landen ovanpå den befintliga marken med ett tjockt lager tidningspapper under. När papperet förmultnat är det mesta av ogräset borta.
När man fått upp en hyggligt ogräsfri yta att odla på så är det bra med nån gröda som hjälper till att hålla bort ogräset i början. Potatis är bra, ogräset får en knäck när man kupar och sedan gräver upp potatisen. Squash/pumpor växer snabbt och har stora blad som kväver bort en del ogräs.
Marktäckning med t.ex. halm eller gräsklipp är ett bra hjälpmedel för att hålla undan ogräs, men det hjälper bara delvis. Det har dock flera andra fördelar. Man kan också lägga dagstidningar mellan rader och plantor för att dämpa ogräset.
Det är ett ständigt kämpande med ogräset. Men det blir bättre med tiden, om man är envis nog.