Das mit Qwen 3 kann ich bestätigen . Die Qwen 3.5 Modelle die ich bis jetzt gefunden habe sind mir etwas zu groß ich könnte wahrscheinlich 27B(Knapp 17 Gb sind mehr als mein Vram) laufen lassen aber dann nur mit minimaler context length. Da habe ich lieber mehr Context,aber wenn sagen wir mal ein 14B Model raus kommt teste ich es gerne.
Das mit Qwen 3 kann ich bestätigen . Die Qwen 3.5 Modelle die ich bis jetzt gefunden habe sind mir etwas zu groß ich könnte wahrscheinlich 27B(Knapp 17 Gb sind mehr als mein Vram) laufen lassen aber dann nur mit minimaler context length. Da habe ich lieber mehr Context,aber wenn sagen wir mal ein 14B Model raus kommt teste ich es gerne.
Das wird spannend Qwen 3.5 0.8B ,2B,4B und 9B sind erschienen . Muss demnächst wohl ein paar Tests machen :D