Gemma 4 ಅನ್ನು ಆಧರಿಸಿ ಮತ್ತು Apache 2.0 ಪರವಾನಗಿ ಅಡಿಯಲ್ಲಿ ಬಿಡುಗಡೆ ಮಾಡಲಾಗಿದೆ, Google ನ EmbeddingGemma 2 ಒಂದು ಕಾಂಪ್ಯಾಕ್ಟ್, ಮುಕ್ತ-ತೂಕ, ಮಲ್ಟಿಮೋಡಲ್ ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯಾಗಿದ್ದು, ಸಾಧನದಲ್ಲಿ ನಿಯೋಜನೆಗಾಗಿ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಉತ್ತಮಗೊಳಿಸುವಾಗ ಶಬ್ದಾರ್ಥದ ಹುಡುಕಾಟ ಮತ್ತು ಮರುಪಡೆಯುವಿಕೆ-ವರ್ಧಿತ ಜನರೇಷನ್ (RAG) ಅನ್ನು ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.
ಮೊಬೈಲ್ ಸಾಧನಗಳು ಮತ್ತು ಲ್ಯಾಪ್‌ಟಾಪ್‌ಗಳಂತಹ ಗ್ರಾಹಕ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಎಂಬೆಡಿಂಗ್‌ಗೆಮ್ಮಾ 2 ಸಾಧನದಲ್ಲಿನ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗೆ ಕಡಿಮೆ-ಲೇಟೆನ್ಸಿ ಲಾಕ್ಷಣಿಕ ಪ್ರಾತಿನಿಧ್ಯಗಳನ್ನು ನೀಡುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ಹುಡುಕಾಟ, ಮರುಪಡೆಯುವಿಕೆ-ವರ್ಧಿತ ಉತ್ಪಾದನೆ (RAG), ವರ್ಗೀಕರಣ ಮತ್ತು ಕ್ಲಸ್ಟರಿಂಗ್.
ಅದರ ಮಲ್ಟಿಮೋಡಲ್ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಧನ್ಯವಾದಗಳು, ಎಂಬೆಡಿಂಗ್‌ಜೆಮ್ಮಾ 2 ವ್ಯಾಪಕ ಶ್ರೇಣಿಯ ಮರುಪಡೆಯುವಿಕೆ ಕಾರ್ಯಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, ಪ್ರಶ್ನೆಗೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ಸಂಬಂಧಿತ ದಾಖಲೆಗಳು, ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳು ಮತ್ತು ರೆಕಾರ್ಡಿಂಗ್‌ಗಳನ್ನು ಹುಡುಕುವುದು, ನೈಸರ್ಗಿಕ ಭಾಷೆಯನ್ನು ಬಳಸಿಕೊಂಡು ಮೂಲ ಕೋಡ್ ಅನ್ನು ಹುಡುಕುವುದು ಮತ್ತು ಪಠ್ಯ ವಿವರಣೆಗಳ ಆಧಾರದ ಮೇಲೆ ವೀಡಿಯೊ ವಿಷಯವನ್ನು ಹಿಂಪಡೆಯುವುದು ಸೇರಿದಂತೆ.
EmbeddingGemma 2 ನ ಪ್ರಮುಖ ವೈಶಿಷ್ಟ್ಯವೆಂದರೆ, ಪಠ್ಯ, ಕೋಡ್, ಚಿತ್ರಗಳು, ವೀಡಿಯೊ ಮತ್ತು ಆಡಿಯೊವನ್ನು ಏಕೀಕೃತ 768-ಆಯಾಮದ ಎಂಬೆಡಿಂಗ್ ಜಾಗದಲ್ಲಿ ಪ್ರತಿನಿಧಿಸುವ ಸಾಮರ್ಥ್ಯವಾಗಿದೆ ಎಂದು ಗೂಗಲ್ ಹೇಳುತ್ತದೆ. ವಿಭಿನ್ನ ಮಾಧ್ಯಮ ಪ್ರಕಾರಗಳಿಗೆ ಪ್ರತ್ಯೇಕವಾದ, ಹೊಂದಾಣಿಕೆಯಾಗದ ಎಂಬೆಡಿಂಗ್ ಸ್ಪೇಸ್‌ಗಳನ್ನು ನಿರ್ವಹಿಸದೆಯೇ ವಿವಿಧ ಮಾಧ್ಯಮ ಪ್ರಕಾರಗಳಲ್ಲಿ ಹುಡುಕುವ ಮರುಪಡೆಯುವಿಕೆ ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಇದು ಡೆವಲಪರ್‌ಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುತ್ತದೆ.
ವಿಭಿನ್ನ ವಿಧಾನಗಳಿಂದ ಬಂದ ಹೊರತಾಗಿಯೂ, ಎಂಬೆಡಿಂಗ್‌ಗೆಮ್ಮ 2 ರ ಮೂಲಕ ಉತ್ಪತ್ತಿಯಾಗುವ ಎಂಬೆಡಿಂಗ್‌ಗಳು ಒಂದೇ ಆಯಾಮದ ಜಾಗವನ್ನು ಆಕ್ರಮಿಸುತ್ತವೆ ಮತ್ತು ಅವುಗಳ ಶಬ್ದಾರ್ಥದ ಹೋಲಿಕೆಯ ಮೇಲೆ ಹೋಲಿಸಬಹುದು.
ಮಾದರಿಯು ಡೆವಲಪರ್‌ಗಳಿಗೆ ತಮ್ಮ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗೆ ಅಗತ್ಯವಿರುವ ಎನ್‌ಕೋಡರ್‌ಗಳನ್ನು ಮಾತ್ರ ಲೋಡ್ ಮಾಡಲು ಅನುಮತಿಸುತ್ತದೆ, ಪಠ್ಯಕ್ಕಾಗಿ 270 ಮಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳಿಂದ ಮತ್ತು ಪೂರ್ಣ ಮಲ್ಟಿಮೋಡಲ್ ಬೆಂಬಲಕ್ಕಾಗಿ 740 ಮಿಲಿಯನ್‌ಗೆ ಸ್ಕೇಲಿಂಗ್ ಮಾಡುತ್ತದೆ. ಗೂಗಲ್ ಪ್ರಕಾರ, ಮಾದರಿಯು “ಕೋಡ್ ಹುಡುಕಾಟ ಮತ್ತು ತಾಂತ್ರಿಕ ಮರುಪಡೆಯುವಿಕೆಯಲ್ಲಿ ಎಂಬೆಡಿಂಗ್‌ಗೆಮ್ಮಾ 1 ಅನ್ನು ಗಮನಾರ್ಹವಾಗಿ ಮೀರಿಸುತ್ತದೆ, ಇದು ಸ್ಥಳೀಯ ಕೋಡ್‌ಬೇಸ್ ಇಂಡೆಕ್ಸಿಂಗ್ ಮತ್ತು ಏಜೆಂಟ್ ಕೋಡ್ ಹುಡುಕಾಟಕ್ಕೆ ಸೂಕ್ತವಾಗಿದೆ”.
EmbeddingGemma 2 Matryoshka ರೆಪ್ರೆಸೆಂಟೇಶನ್ ಲರ್ನಿಂಗ್ (MRL) ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, ಇದು ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಕಡಿಮೆ, ಘಟಕ-ಉದ್ದದ ವೆಕ್ಟರ್‌ಗಳಾಗಿ ಮೊಟಕುಗೊಳಿಸಲು ಅನುಮತಿಸುತ್ತದೆ, ಶೇಖರಣಾ ಅವಶ್ಯಕತೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, bfloat16 ನಿಖರತೆಯಲ್ಲಿ ಮಿಲಿಯನ್ 768-ಆಯಾಮದ ವೆಕ್ಟರ್‌ಗಳನ್ನು ಸಂಗ್ರಹಿಸುವುದು ಸರಿಸುಮಾರು 1.5 GB ಮೆಮೊರಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ, ಆದರೆ ಅವುಗಳನ್ನು 128 ಆಯಾಮಗಳಿಗೆ ಮೊಟಕುಗೊಳಿಸಲು ಕೇವಲ 250 MB ಅಗತ್ಯವಿರುತ್ತದೆ, ಇದು ಆರು ಪಟ್ಟು ಕಡಿತವನ್ನು ತರುತ್ತದೆ. ಆದಾಗ್ಯೂ, ಇದು ಮರುಪಡೆಯುವಿಕೆ ಗುಣಮಟ್ಟದ ವ್ಯಾಪಾರ-ವಹಿವಾಟುಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಆದ್ದರಿಂದ ಸಂಗ್ರಹಣೆ ಅಥವಾ ಹುಡುಕಾಟದ ವೇಗ ಅಗತ್ಯವಿರುವಾಗ ಮಾತ್ರ ಮೊಟಕುಗೊಳಿಸುವಿಕೆಯನ್ನು ಬಳಸಲು Google ಶಿಫಾರಸು ಮಾಡುತ್ತದೆ. 128 ಆಯಾಮಗಳಲ್ಲಿ, ಮಾದರಿಯು ಪಠ್ಯದೊಂದಿಗೆ ಸರಿಸುಮಾರು 90% ಗುಣಮಟ್ಟವನ್ನು ಉಳಿಸಿಕೊಂಡಿದೆ, ಆದರೆ ಚಿತ್ರ, ವೀಡಿಯೊ ಮತ್ತು ಭಾಷಣ ಮರುಪಡೆಯುವಿಕೆಗಾಗಿ ಕಾರ್ಯಕ್ಷಮತೆಯು ಸುಮಾರು 75% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ.
ಪ್ರಕಟಣೆಯ ಕುರಿತು ಕಾಮೆಂಟ್ ಮಾಡುತ್ತಾ, Reddit ಬಳಕೆದಾರ ಡಿಸ್ಟಿಂಕ್ಟ್-ಟಾರ್ಗೆಟ್7503 ಮಾದರಿಯ ಮಲ್ಟಿಮೋಡಲ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಹೈಲೈಟ್ ಮಾಡಿದರು ಮತ್ತು ಪಠ್ಯ-ಮಾತ್ರ ಕಾರ್ಯಗಳಿಗಾಗಿ ಅದರ ಸುಧಾರಣೆಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಪ್ರಶ್ನಿಸಿದರು:
ಇದರ ಬಗ್ಗೆ ಪ್ರಭಾವಶಾಲಿ ವಿಷಯವೆಂದರೆ ಅದು ಹಂಚಿಕೆಯ ಶಬ್ದಾರ್ಥದ ಜಾಗದಲ್ಲಿ ಚಿತ್ರಗಳು ಮತ್ತು ಆಡಿಯೊವನ್ನು ಎಂಬೆಡ್ ಮಾಡಬಹುದು, ಆದರೆ ಪಠ್ಯಕ್ಕೆ ಮಾತ್ರ ಇದು ಬೃಹತ್ ಸುಧಾರಣೆಯಾಗಿಲ್ಲ.
ಏತನ್ಮಧ್ಯೆ, ರೆಡ್ಡಿಟ್ ಬಳಕೆದಾರ ಓಪನ್-ಅಡ್ಹೆಸಿವ್ನೆಸ್-86 ಮಾದರಿಯನ್ನು ಸರಿಯಾಗಿ ಬಳಸುವ ಪ್ರಾಮುಖ್ಯತೆಯ ಬಗ್ಗೆ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಎಚ್ಚರಿಕೆ ನೀಡಿದರು:
ಮೊದಲ embeddinggemma ನಲ್ಲಿ ನನ್ನನ್ನು ಕಚ್ಚಿದ ಮತ್ತು ಬಹುಶಃ ಇನ್ನೂ ಅನ್ವಯಿಸುವ ಎರಡು ವಿಷಯಗಳು: ಕಾರ್ಯ ಪೂರ್ವಪ್ರತ್ಯಯಗಳು ಐಚ್ಛಿಕವಾಗಿಲ್ಲ, “ಶೀರ್ಷಿಕೆ: ಯಾವುದೂ ಇಲ್ಲ | ಪಠ್ಯ:” ಬದಲಿಗೆ ಪ್ರಶ್ನೆ ಪೂರ್ವಪ್ರತ್ಯಯದೊಂದಿಗೆ ಡಾಕ್ಸ್ ಅನ್ನು ಸೂಚಿಕೆ ಮಾಡುವುದು ನೆನಪಿಗೆ ನೋವುಂಟು ಮಾಡುತ್ತದೆ. ಮತ್ತು ನೀವು MRL ಗಾಗಿ ಮೊಟಕುಗೊಳಿಸಿದರೆ, ಮೊದಲು ಸ್ಲೈಸ್ ಮಾಡಿ ನಂತರ L2-ಶಾರ್ಟ್ ವೆಕ್ಟರ್ ಅನ್ನು ಸಾಮಾನ್ಯಗೊಳಿಸಿ, 768 ನಲ್ಲಿ ಸಾಮಾನ್ಯಗೊಳಿಸಿ ಮತ್ತು ನಂತರ ಕತ್ತರಿಸುವುದು ನಿಮಗೆ ಆಫ್-ನಾರ್ಮ್ ವೆಕ್ಟರ್‌ಗಳನ್ನು ನೀಡುತ್ತದೆ.
EmbeddingGemma ಅನ್ನು ಕಳೆದ ವರ್ಷ “ಆಫ್‌ಲೈನ್ ಮತ್ತು ಗೌಪ್ಯತೆ-ಸೂಕ್ಷ್ಮ ಸನ್ನಿವೇಶಗಳು, ಉದಾಹರಣೆಗೆ ಸ್ಥಳೀಯವಾಗಿ ವೈಯಕ್ತಿಕ ಫೈಲ್‌ಗಳಾದ್ಯಂತ ಹುಡುಕುವುದು, Gemma 3n ನೊಂದಿಗೆ ಮೊಬೈಲ್ RAG ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ಚಾಲನೆ ಮಾಡುವುದು ಅಥವಾ ಡೊಮೇನ್-ನಿರ್ದಿಷ್ಟ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು” ಗಮನದಲ್ಲಿಟ್ಟುಕೊಂಡು ಪರಿಚಯಿಸಲಾಯಿತು. EmbeddingGemma 2 ಹಗ್ಗಿಂಗ್ ಫೇಸ್‌ನಲ್ಲಿ ಲಭ್ಯವಿದೆ.
