Llama.cpp 30B runs with only 6GB of RAM now
517 by msoad | 147 comments on Hacker News.
-
เคตिเคฆ्เคฏाเคฐ्เคฅ्เคฏांเคตเคฐीเคฒ เค เคฎाเคจुเคท เค เคค्เคฏाเคाเคฐ – เคฎुเค्เคฏाเคง्เคฏाเคชเค เคต เค เคงीเค्เคทเคाเคตเคฐ เคुเคจ्เคนा เคฆाเคเคฒ เคเคฐूเคจ เคคाเคค्เคाเคณ เคाเคฐเคตाเค เคเคฐा. เคเคฆिเคตाเคธी เคाเคฏเคเคฐ เคธेเคจेเคे เคंเคฆ्เคฐเคชूเคฐ เคिเคฒ्เคนा เคเคชाเคง... -
เคฏेเคจ्เคธा เคฏेเคฅीเคฒ เค เคชเคाเคคाเคค เคฎूเคค्เคฏुंเคฎुเคी เคฎเคนिเคฒाเค्เคฏा เคตाเคฐเคธाเคจा 5 เคฒाเคाเคी เคเคฐ्เคฅिเค เคฎเคฆเคค เคเคฐा เคคुเคฒเคธी เค เคฒाเคฎ เคตเคฐोเคฐा เคถเคนเคฐाเคคीเคฒ เคฌाเคตเคฃे เคฒेเคเคเค เคต เคाॅเคฒเคฐी เคตॉเคฐ्เคก... -
เคชाเคตเคจा (เคฐै)เคฏेเคฅे เคोंเคกी เคงเคฐ्เคฎ เคช्เคฐเคฌोเคงเคจ เคฎेเคณाเคตा. เคोंเคกी เคชाเคฐंเคชเคฐिเค เคจूเคค्เคฏ เคคเคฅा เคोंเคกी เคฐेเคॉเคฐ्เคกिंเค เคกाँเคจ्เคธ เคจूเคค्เคฏ เคธ्เคชเคฐ्เคงेเคे เคเคฏोเคเคจ. เคญเคฆ्เคฐाเคตเคคी(เคฆि .3...