Baseten ਨੇ Hugging Face ਅਤੇ Goodfire ਨਾਲ ਮਿਲ ਕੇ ਇੱਕ ਨਵੀਂ ਪਹਿਲਕਦਮੀ ਕੀਤੀ ਹੈ, ਜਿਸ ਦਾ ਮੁੱਖ ਮਕਸਦ 'abliterated' AI ਮਾਡਲਾਂ ਨੂੰ ਰੋਕਣਾ ਹੈ। ਅਜਿਹੇ ਮਾਡਲ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਸੁਰੱਖਿਆ ਗਾਰਡਰੇਲ (safety guardrails) ਹਟਾ ਦਿੱਤੇ ਗਏ ਹਨ, ਵੱਡਾ ਸੁਰੱਖਿਆ ਖਤਰਾ ਬਣ ਸਕਦੇ ਹਨ।
AI ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੀ ਕੰਪਨੀ Baseten ਨੇ ਇੱਕ ਅਜਿਹਾ ਸੁਰੱਖਿਆ ਫਰੇਮਵਰਕ ਪੇਸ਼ ਕੀਤਾ ਹੈ ਜੋ 'abliterated' ਮਾਡਲਾਂ ਨਾਲ ਜੁੜੇ ਖਤਰਿਆਂ ਨੂੰ ਘੱਟ ਕਰੇਗਾ। ਤਕਨੀਕੀ ਭਾਸ਼ਾ ਵਿੱਚ 'abliterated' ਉਹ ਮਾਡਲ ਹੁੰਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਲਗਾਏ ਗਏ ਸੁਰੱਖਿਆ ਨਿਯਮਾਂ ਨੂੰ ਜਾਣਬੁੱਝ ਕੇ ਹਟਾ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਵਰਤਮਾਨ ਵਿੱਚ ਅਜਿਹੇ 6,000 ਤੋਂ ਵੱਧ ਮਾਡਲ ਮਾਰਕੀਟ ਵਿੱਚ ਹਨ, ਜੋ ਕਿ ਤਕਨਾਲੋਜੀ ਸੈਕਟਰ ਲਈ ਇੱਕ ਗੰਭੀਰ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਹਨ।
ਨਵੀਂ ਤਕਨੀਕ ਦਾ ਆਧਾਰ
ਇਸ ਸਾਂਝੇਦਾਰੀ ਵਿੱਚ Baseten ਦਾ ਡਿਵੀਜ਼ਨ 'Base Labs' ਨਵੇਂ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਮਾਨੀਟਰਿੰਗ ਤਰੀਕਿਆਂ 'ਤੇ ਕੰਮ ਕਰੇਗਾ। Goodfire ਦੇ ਇੰਟਰਪ੍ਰੀਟੇਬਿਲਟੀ ਪਲੇਟਫਾਰਮ ਦੀ ਮਦਦ ਨਾਲ, ਇਹ ਮਾਡਲਾਂ ਦੇ ਅੰਦਰਲੇ ਹਿੱਸੇ (black box) ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਮਦਦ ਮਿਲੇਗੀ। ਇਸ ਨਾਲ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਮਾਡਲ ਦੇ ਇਨਫਰੈਂਸ ਲੈਵਲ 'ਤੇ ਵਧੇਰੇ ਕੰਟਰੋਲ ਮਿਲੇਗਾ, ਜੋ ਕਿ ਪਹਿਲਾਂ ਕਾਫੀ ਮੁਸ਼ਕਲ ਸੀ।
ਕਾਰੋਬਾਰੀ ਨਜ਼ਰੀਆ ਅਤੇ ਮਾਰਕੀਟ ਵੈਲਯੂ
ਬਿਜ਼ਨਸ ਪੁਆਇੰਟ ਆਫ ਵਿਊ ਤੋਂ ਦੇਖਿਆ ਜਾਵੇ ਤਾਂ Baseten ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ 'ਸੁਰੱਖਿਅਤ' ਵਿਕਲਪ ਵਜੋਂ ਸਥਾਪਿਤ ਕਰਨਾ ਚਾਹੁੰਦੀ ਹੈ। ਕੰਪਨੀ ਨੇ ਜੂਨ ਵਿੱਚ $1.5 ਬਿਲੀਅਨ ਦੀ ਫੰਡਿੰਗ ਹਾਸਲ ਕੀਤੀ ਸੀ, ਜਿਸ ਤੋਂ ਬਾਅਦ ਇਸਦੀ ਵੈਲਯੂਏਸ਼ਨ $13 ਬਿਲੀਅਨ ਤੱਕ ਪਹੁੰਚ ਗਈ ਹੈ। ਇਹ ਨਿਵੇਸ਼ਕਾਂ ਦਾ AI ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਵਿੱਚ ਵਧ ਰਹੇ ਵਿਸ਼ਵਾਸ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।
ਹੁਣ ਦੇਖਣਾ ਇਹ ਹੋਵੇਗਾ ਕਿ ਕੀ ਵੱਡੀਆਂ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਕੰਪਨੀਆਂ ਇਸ ਨਵੇਂ ਸੁਰੱਖਿਆ ਮਿਆਰ ਨੂੰ ਅਪਣਾਉਂਦੀਆਂ ਹਨ ਜਾਂ ਨਹੀਂ। ਜੇਕਰ ਇਹ ਕੋਸ਼ਿਸ਼ ਸਫਲ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਇਹ AI ਸੈਕਟਰ ਵਿੱਚ 'ਟਰੱਸਟ ਗੈਪ' ਨੂੰ ਭਰਨ ਲਈ ਇੱਕ ਵੱਡਾ ਕਦਮ ਸਾਬਤ ਹੋਵੇਗੀ।